234687552

**问题描述：** > 参考server.py使用LitServe调用，发现表格识别巨慢 **系统&环境：** > PRETTY_NAME="Ubuntu 24.04 LTS" > > Python 3.10.14 > > magic-pdf version 0.7.1 > > paddlepaddle-gpu 3.0.0b1 magic-pdf.json配置 ``` { "bucket_info":{ "bucket-name-1":["ak", "sk", "endpoint"], "bucket-name-2":["ak", "sk",...

不知道是不是这里导致表格识别巨慢 https://github.com/opendatalab/MinerU/blob/master/magic_pdf/model/ppTableModel.py#L46 

# **问题描述：** 参考server.py提供接口，15并发4gpu压测，发现gpu[0]总是爆满，其他gpu都是相对空闲。 **期望结果：** gpu的压力均分 **实验过程执行：** ``` nvidia-smi --loop=1 ``` **输出日志：** ``` +-----------------------------------------------------------------------------------------+ | Processes: | | GPU GI CI PID Type Process name GPU Memory | | ID ID...

> @234687552 你这边是打开了表格识别了吗，如果打开了可以试试关闭表格识别，再测一下负载均衡，这样可以定位是不是表格识别的问题。 **情况描述**： 之前是开启了表格识别："is_table_recog_enable": true, 关闭后测试：gpu[0] 不会一直持续爆满，其他gpu相对均衡运转 **关闭表格识别** cat ~/magic-pdf.json ``` { "bucket_info":{ "bucket-name-1":["ak", "sk", "endpoint"], "bucket-name-2":["ak", "sk", "endpoint"] }, "models-dir":"/opt/models", "device-mode":"cuda", "table-config": { "model": "TableMaster", "is_table_recog_enable": false, "max_time":...

这边实际情况是必须开启表格识别的，现在不知道如何处理让表格识别也均衡单机使用多gpu

> server.py > > ```python > import os > import torch > import filetype > import json, uuid > import litserve as ls > from fastapi import HTTPException > from...

> 感谢，看来有进展！试试把with torch.cuda.device(device):这句话删掉@234687552 感谢支持，现在是可以多gpu正常运作了。