pdf-marker通过docker部署调用报错
服务器有3张gpu卡,通过如下命令docker部署指定其中一张显卡,显卡:
docker run --gpus '"device=2"' -d -e PROCESSES_PER_GPU=1 -p 7231:7231 --name model_pdf_v1 crpi-h3snc261q1dosroc.cn-hangzhou.personal.cr.aliyuncs.com/marker11/marker_images:latest
测试:curl --location --request POST "http://10.4.7.111:7231/v1/parse/file" --form "file=@/24v5.pdf" 通过上述命令测试了报错: {"detail":"错误信息: A child process terminated abruptly, the process pool is not usable anymore"}
一样的错误,我发现应该是跟CUDA的版本有关,我本机的CUDA Version也是12.2,但是容器里的CUDA的version是12.4
服务器有3张gpu卡,通过如下命令docker部署指定其中一张显卡,显卡:
docker run --gpus '"device=2"' -d -e PROCESSES_PER_GPU=1 -p 7231:7231 --name model_pdf_v1 crpi-h3snc261q1dosroc.cn-hangzhou.personal.cr.aliyuncs.com/marker11/marker_images:latest
测试:curl --location --request POST "http://10.4.7.111:7231/v1/parse/file" --form "file=@/24v5.pdf" 通过上述命令测试了报错: {"detail":"错误信息: A child process terminated abruptly, the process pool is not usable anymore"}
暂时不支持指定卡 默认从0卡开始
一样的错误,我发现应该是跟CUDA的版本有关,我本机的CUDA Version也是12.2,但是容器里的CUDA的version是12.4
请问您是怎么解决的?我也遇到了相同的问题
一样的错误,我发现应该是跟CUDA的版本有关,我本机的CUDA Version也是12.2,但是容器里的CUDA的version是12.4
请问您是怎么解决的?我也遇到了相同的问题
修改本机的CUDA版本和容器中一致之后,问题已解决