PaddleSlim
PaddleSlim copied to clipboard
GroundingDINO量化报错没注册ms_deformable_attn
你好,我在尝试用PaddleSlim对PaddleMix中的GroundingDINO进行量化,发现如下报错: RuntimeError: (NotFound) Operator (ms_deformable_attn) is not registered. [Hint: op_info_ptr should not be null.] (at ../paddle/fluid/framework/op_info.h:151)
请问这个可以解决吗?还是说不支持含ms_deformable_attn这种特殊算子的模型?
已收到您的邮件,请耐心等待我的回复,谢谢!
暂时不支持这种算子的量化,但是只要paddle支持这个算子,那直接运行这个模型的量化应该是没问题的