TNN icon indicating copy to clipboard operation
TNN copied to clipboard

yolov8 int8量化后 精度损失严重

Open HiiHongFe opened this issue 1 year ago • 1 comments

1. 环境(environment)

  • Build OS and Version: Mac/Ubuntu/Centos/Windows
  • RunTime OS Version: Linux/Android/IOS
  • RunTime DEVICE: ARM/OPENCL/METAL

2. Github版本

  • branch:
  • commit(optional):

3. 编译方式(compile method) CMake完整编译参数(full cmake arguments)

4. 编译日志(build log)

将日志粘贴在这里
Paste log here or pastebin

5. 详细描述bug 情况 (Describe the bug)

6. 运行日志(runtime log)

将日志粘贴在这里
Paste log here or pastebin

7. 截图(Screenshots)

将截图粘贴在这里
Paste screenshorts here or pastebin

尝试拿了yolov8官方的yolov8n.pt模型 进行了int8量化后 精度损失验证 没有一张图片是正确的 试过使用没有量化前的模型 可以进行正确的推理

HiiHongFe avatar Jul 22 '23 12:07 HiiHongFe

您好,请问一下您在模型转化为tnn之后是否存在swish算子,如果存在能否用GPU运行模型?我在将yolov8模型转化为tnn后模型中存在swish算子并且gpu推理时初始化失败

rubicfa avatar Sep 17 '23 14:09 rubicfa