rknn-toolkit2 icon indicating copy to clipboard operation
rknn-toolkit2 copied to clipboard

Published 20 hours ago • verified publisher icon rockchip-linux

ERROR: unsupport Gemm op in current

Open czy-1234 opened this issue 1 year ago • 4 comments

我的代码中使用了torch.matmul函数，在转换到RKNN后变成了Gemm算子，运行过程中报错ERROR: unsupport Gemm op in current。我使用的rknn-toolkit2是最新版的1.5.2，rknpu也是最新版的，文档中我看是支持Gemm的，但是为什么会出现这个错误呢

czy-1234 avatar Nov 22 '23 03:11 czy-1234

提供一下模型和哪个平台部署

wyd520520 avatar Nov 22 '23 03:11 wyd520520

链接：https://pan.baidu.com/s/1gxfddLpEhItwNkdxlXeaGA 提取码：4esq 在RK3588上部署的

czy-1234 avatar Nov 22 '23 06:11 czy-1234

您好，请问现在测试出什么情况了吗

czy-1234 avatar Nov 29 '23 01:11 czy-1234

经过我的测试，matmul和mm矩阵乘法均会被转化为Gemm，运行过程中会不支持，只有torch.bmm能正常使用。 另外运行过程中又出现了Meet unsupported ArgMax indice layout，但是文档中明明写了ArgMax是CPU支持的算子

czy-1234 avatar Dec 01 '23 01:12 czy-1234