PaddleSlim icon indicating copy to clipboard operation
PaddleSlim copied to clipboard
verified publisher icon PaddlePaddle

请问如何使用paddleslim对uie-x-base进行微调后的模型进行量化、压缩

Open AllenMeng2009 opened this issue 1 year ago • 2 comments

参考https://github.com/PaddlePaddle/PaddleSlim/tree/develop/example/auto_compression 这个方法直接报错，请指导，谢谢

AllenMeng2009 avatar Jul 05 '24 02:07 AllenMeng2009

UIE 一些压缩功能直接在 PaddleNLP 支持的，可以在 PaddleNLP 问问是否有相关的压缩方案

FrostML avatar Jul 05 '24 06:07 FrostML

@FrostML 您好，请问之前有没有相关案例使用paddleslim对文字信息抽取uie或文档信息抽取uie-x微调后的模型进行压缩的方法？好的，我也问问paddlenlp那边。谢谢

AllenMeng2009 avatar Jul 05 '24 08:07 AllenMeng2009