PaddleOCR 1.报GPU内存不足但查看占用有足够的 2.只能单GPU运行

1.报GPU内存不足但查看占用有足够的 2.只能单GPU运行

Open guodastanson opened this issue 11 months ago • 2 comments

1.使用langchain-chat自带的rapidOCRPdfLoader解析PDF，引入paddle-gpu进行处理。在GPU 内存占用6G/24G的时候，它就经常告诉我内存不足，比如说需要分配7G但是只剩1G。

（如图所示） 2.安装了nccl之后测试paddle.utils.run_check()，通过交互模式输入代码，显示两个GPU正常，但是通过脚本模式执行同样的代码会报错 (上图为交互模式) (上图为脚本模式)

Mar 15 '24 06:03 guodastanson

建议尝试使用官方docker尝试一下哈，感觉是环境问题哈

Mar 21 '24 08:03 changdazhou

第一个报错是要分配6G显存，但是23.5G已经分配可用显存只有135mb

Apr 30 '24 06:04 UserWangZz