XGZhang

Results 16 comments of


                                            XGZhang

量化模型以int8格式存储并加载

可以采用https://github.com/PaddlePaddle/Paddle/blob/develop/python/paddle/fluid/contrib/slim/quantization/post_training_quantization.py#L1064 将模型权重保存为int8格式，并将权重的scale保存为该op的属性。在推理端加载时，在load_combine这个op中将模型权重再转换为fp32，然后使用scale将权重反量化。

yolo post training quantization

Sorry for not replying in time. It seems that there is something wrong with ShapeInference. Can you provide more information about the code and model you use?

量化示例报错（quant_aware_with_infermodel）

抱歉未能及时回复，能否提供更多paddle相关代码库的版本信息

我在使用静态离线量化的时候遇到这个问题 TypeError: When the type of 'input' in assign is numpy.ndarray, the data type of 'input' must be bool, float32, int32 or int64, but received uint8.

看起来是因为你的input是uint8类型的numpy数组，暂不支持

在自动压缩中，如何查看蒸馏时的模型本身损失？

应该需要去代码里打印一下

离线量化paddleocr rec模型存在问题

shape对不上，有可能是输入数据的问题

'SchemaDict' object has no attribute 'check_or_download_dataset'

应该是数据配置的问题

PP-OCRV4 det自动压缩报错

是不是数据读取不正常，可以检查一下吗

在使用官方文档中的教程的对ppyoloe进行auto_compress的时候报错AttributeError: 'SchemaDict' object has no attribute 'check_or_download_dataset'

应该是数据集配置有问题

请教ptq什么时候支持量化校准表的保存

请问是否能提供下所用的代码和版本信息

1
2
›