FastGPT icon indicating copy to clipboard operation
FastGPT copied to clipboard

pdf-marker通过docker部署调用报错

Open erickech opened this issue 11 months ago • 4 comments

服务器有3张gpu卡,通过如下命令docker部署指定其中一张显卡,显卡: image

docker run --gpus '"device=2"' -d -e PROCESSES_PER_GPU=1 -p 7231:7231 --name model_pdf_v1 crpi-h3snc261q1dosroc.cn-hangzhou.personal.cr.aliyuncs.com/marker11/marker_images:latest

测试:curl --location --request POST "http://10.4.7.111:7231/v1/parse/file" --form "file=@/24v5.pdf" 通过上述命令测试了报错: {"detail":"错误信息: A child process terminated abruptly, the process pool is not usable anymore"}

erickech avatar Jan 16 '25 09:01 erickech

一样的错误,我发现应该是跟CUDA的版本有关,我本机的CUDA Version也是12.2,但是容器里的CUDA的version是12.4

Kimentanm avatar Feb 24 '25 07:02 Kimentanm

服务器有3张gpu卡,通过如下命令docker部署指定其中一张显卡,显卡: image

docker run --gpus '"device=2"' -d -e PROCESSES_PER_GPU=1 -p 7231:7231 --name model_pdf_v1 crpi-h3snc261q1dosroc.cn-hangzhou.personal.cr.aliyuncs.com/marker11/marker_images:latest

测试:curl --location --request POST "http://10.4.7.111:7231/v1/parse/file" --form "file=@/24v5.pdf" 通过上述命令测试了报错: {"detail":"错误信息: A child process terminated abruptly, the process pool is not usable anymore"}

暂时不支持指定卡 默认从0卡开始

YYH211 avatar Feb 25 '25 04:02 YYH211

一样的错误,我发现应该是跟CUDA的版本有关,我本机的CUDA Version也是12.2,但是容器里的CUDA的version是12.4

请问您是怎么解决的?我也遇到了相同的问题

zwz5811 avatar Apr 17 '25 06:04 zwz5811

一样的错误,我发现应该是跟CUDA的版本有关,我本机的CUDA Version也是12.2,但是容器里的CUDA的version是12.4

请问您是怎么解决的?我也遇到了相同的问题

修改本机的CUDA版本和容器中一致之后,问题已解决

Kimentanm avatar Apr 17 '25 07:04 Kimentanm