minghaoBD
minghaoBD
Same question. And under other parallel paradigms like tensor/pipeline parallelism.
您好,NLP模型相关的问题建议去 PaddleNLP 提问哈:https://github.com/PaddlePaddle/PaddleNLP/issues
 https://github.com/PaddlePaddle/PaddleSlim/blob/4d75cb9cecf5a02e789576b0c02ce7376615dafd/docs/zh_cn/api_cn/static/prune/prune_api.rst 您好,可以参考下剪裁的文档。
安装develop版本的paddleslim: ```bash git clone https://github.com/PaddlePaddle/PaddleSlim.git cd PaddleSlim pip install -r requirements.txt python setup.py install ``` 但是,develop版本下非结构化稀疏功能与2.2.1无异,而且都不应该有【配置路径】的步骤。
多谢反馈~ 这个小功能没有合入2.2.1,麻烦安装下develop版本 : ) 我同步合入这个小功能到2.2分支,完成后我在这里回复。
> @minghaoBD 可以冒昧的问一下,大概什么时间能完成呢 我和发版同学沟通了下,他们建议还是使用develop版本~ 这么做是考虑到local_sparsity是一个新的【小功能】,不是对于之前功能的bug修复,不建议合入release/2.2分支。所以需要麻烦您按照上述指令,安装develop版本paddleslim了。
> 请问下我有没有办法自己做一个发版呢? 这个可能比较麻烦。我建议还是安装develop版本的paddleslim。 看你在使用jupyter运行命令,猜测你可能遇到了一些安装develop版本的问题,我大概搜了一些相关教程供参考: 1. 执行git clone 获取paddleslim:https://blog.csdn.net/weixin_43695915/article/details/86471264 2. 运行setup.py 文件:https://blog.csdn.net/DoReAGON/article/details/100122750 3. 如果你可以直接打开命令行终端,所有命令都可以在终端中按照这个教程执行:https://blog.csdn.net/Lianyudedouzi/article/details/109715011
抱歉回复延迟。 这里建议贴一下完整的报错栈,我理解问题可能出在某个API调用的传参错位了,这可能是由于Paddle和PaddleSlim版本不匹配引起的。看到报错栈会有比较细节的建议。
请保证PaddleSlim版本和Paddle版本对齐。 例如,在您的paddle版本下,请参考上述评论,升级paddleslim。在PaddleSlim新版本中,已经遵循框架,脱离了对于fluid的依赖。
支持,请按照模型组网dtype=float16即可