YOLO-Multi-Backbones-Attention icon indicating copy to clipboard operation
YOLO-Multi-Backbones-Attention copied to clipboard

Published 20 hours ago • verified publisher icon HaloTrouvaille

量化问题

Open lxn96 opened this issue 3 years ago • 4 comments

你好，量化前后为什么保存的模型大小都是180MB，量化并没有减小模型的大小？

lxn96 avatar Aug 19 '20 13:08 lxn96

您好，我采用的是模拟量化，即模拟出量化效果，所以模型大小并没有减少。

HaloTrouvaille avatar Aug 19 '20 13:08 HaloTrouvaille

那实际量化应该怎么做呢

lxn96 avatar Aug 19 '20 13:08 lxn96

您可以利用模拟量化 部署时跑一次前向传播，提取出量化后的参数用于部署

HaloTrouvaille avatar Aug 20 '20 03:08 HaloTrouvaille

那就是说保存量化后的参数模型，而不是整个模型是么？

TDIT-haha avatar Sep 14 '20 06:09 TDIT-haha