关于量化的一些问题

[prio158]

你好，很感谢这份优秀的工作。但我有些疑问，就是我在做8位量化时，模型里面的参数和激活看似被量化成8位，如同论文中那样做的，但是实际的数据类型还是torch.float32，那么最后模型保存的参数也都是torch.float32类型的，这根本没有被量化。