JoyceChen36
Results
1
comments of
JoyceChen36
成功跑完：量化花了1h20min，导出模型落盘花了30min。 配置是： export_dir: xxx export_quantization_bit: 4 export_quantization_dataset: xxx export_size: 5 export_device: auto export_legacy_format: false export_quantization_maxlen: 1024 export_quantization_nsamples: 128 使用3卡a100（40G/卡）