paddle ocr 在cpu环境推理时内存不回收 一直增长oom
🔎 Search before asking
- [x] I have searched the PaddleOCR Docs and found no similar bug report.
- [x] I have searched the PaddleOCR Issues and found no similar bug report.
- [x] I have searched the PaddleOCR Discussions and found no similar bug report.
🐛 Bug (问题描述)
持续推理进行压测接口, 发现内存一直增长不主动回收,
🏃♂️ Environment (运行环境)
FastAPI paddlepaddle==3.1.0 paddleocr==2.10 uvicorn python-multipart requests numpy==1.24.4 opencv-python==4.6.0.66 langchain gunicorn
🌰 Minimal Reproducible Example (最小可复现问题的Demo)
ocr = PaddleOCR( use_angle_cls=config['use_angle_cls'], # 是否启用角度分类器 lang=config['lang'], # 语言设置 use_gpu=config['use_gpu'], # 是否使用 GPU det_model_dir=config['det_model_dir'], # 文本检测模型路径 rec_model_dir=config['rec_model_dir'], # 文本识别模型路径 cls_model_dir=config['cls_model_dir'], # 方向分类模型路径 show_log=config['show_log'], # 是否显示日志 max_text_length=config['max_text_length'], # 最大文本长度 rec_char_type=config['rec_char_type'], # 字符集类型 det_db_thresh=config['det_db_thresh'], # 文本检测阈值 det_db_box_thresh=config['det_db_box_thresh'], # 框阈值 gpu_mem=config['gpu_mem'] # 用于初始化GPU的大小 )
paddleocr升级到3.3版本是否还有此问题呢?
使用paddlex作服务,内存控制得比较好。
paddleocr升级到3.3版本是否还有此问题呢?
我方的是 40 GB 的 Intel L20 GPU 裝置,加载 PaddleVL 流水线初時的 GPU 內存佔 10%,一般每一張相片 predict 會使用 3-6 秒,但 predict 了 5 張相片後 GPU 內存飆升到接近 100%,系統會變得不穩定,同一張相片 predict 需使用 6-30 秒;
PaddleOCR 版本為 3.3.1 PaddleX 版本為 3.3.9 PaddlePaddle GPU 版本為 3.2.1
我是使用3.3.2版本的PaddleOCR,L20显卡,多进程(多个paddleocr实例)进行推理,也是GPU显存会一直增长,直至OOM,单进程下也会增长,但没遇到OOM情况,这是什么原因呢