MNN
MNN copied to clipboard
QNN后端已经支持哪些模型了?是如何量化的
QNN后端后续规划是什么?现在还不支持LLM吗?在哪些模型上进行了验证?想测试下
目前支持部分 CV 模型(mobilenet 等),正在支持 llm 。
请问有相关量化后运行的例子吗?我采用pytorch qat量化,转至MNN时,运算为nan或inf
Marking as stale. No activity in 60 days.