abbydev

@kevinuserdd 你好，我也正在微调baichuan2-7B-Base，遇到一些问题，请教一下你是啥环境，Python + Pytorch + CUDA多少版本的，谢谢

@wj-Mcat 能帮忙看看吗？谢谢！

我是很想支持国产，可是这个paddle社区不是很活跃，官方也不理不睬。@imempty 我3-4月是初次用的paddle框架，GPU部署早就上线了。 我遇到的问题是：我在GPU环境训练的模型，导出后想在CPU环境部署起来，就遇到了这个问题 MemoryError: (ResourceExhausted) Fail to alloc memory of 8245807622825612480 size, error code is 12. [Hint: Expected error == 0, but received error:12 != 0:0.] (at /paddle/paddle/fluid/memory/allocation/cpu_allocator.cc:50) [operator <...

@imempty 你用simple_serving+GPU部署能正常使用？====是的 simple_serving+CPU部署如issue一楼所示的报错问题解决了？====能启动起来，但是调用三次就内部错误了 你这个新的报错看起来像是内存不够，可这个size的数字看起来好大！=====https://github.com/PaddlePaddle/PaddleNLP/issues/7231，但是我试过没有用 我理解的是：导出的模型和框架是解耦的，而且高版本的paddle应该向下兼容的，但实际上并不是这样，我都有点想换pytorch了，国产的遇到了问题，支持力度不够，也没个官方的来维护冒泡，这个就是百度10几年来的通病，高开低走，后劲不足。。。请原谅我的言辞冒犯了，但是事实就是如此

@imempty 显式设置使用GPU推理的选项=====》这个有，我是看源码找到的 device_id=-1 表示使用CPU

我贴一下完整的报错： ``` ERROR: Exception in ASGI application Traceback (most recent call last): File "/home/xxx/lib/python3.7/site-packages/uvicorn/protocols/http/h11_impl.py", line 429, in run_asgi self.scope, self.receive, self.send File "/home/xxx/lib/python3.7/site-packages/uvicorn/middleware/proxy_headers.py", line 78, in __call__ return await self.app(scope,...

> 嗯嗯 解决了 谢谢老师回复 > […](#) > ------------------ 原始邮件 ------------------ 发件人: "KW213"; 发送时间: 2019年8月20日(星期二) 下午3:58 收件人: "liuhuanyong/TextGrapher"; 抄送: "185135684";"Comment"; 主题: Re: [liuhuanyong/TextGrapher] 运行结果 (#6) 记得下载ltp_data在工程文件规定的目录下 — You are receiving this...

@shi-yuan 大佬，能不能帮忙提供一下，谢谢~