ppq icon indicating copy to clipboard operation
ppq copied to clipboard
verified publisher icon openppl-public

PPQ已经支持了不少后端推理框架(TensorRT,ncnn,mnn等），这些后端的量化规格细节都是怎么获取的呢？现在PPQ与后端量化推理可以完全对齐吗？

Open 666DZY666 opened this issue 1 year ago • 1 comments

666DZY666 avatar May 15 '24 08:05 666DZY666

trt的话，最新的文档有详细描述量化细节，其他黑盒平台，ppq是按照谷歌白皮书标准进行concat/add量化模拟，我们只能力求对齐量化融合方式，置于算子的比特对齐，这个做不到

Jzz24 avatar Nov 05 '24 12:11 Jzz24