junknet

QPS 性能提高方案

1

使用 pip install onnxruntime-gpu 开启服务 cnocr serve -p 8501 ## 测试结果 wrk -t4 -c10 -d10s -s upload.lua http://0.0.0.0:8501/ocr 24-12-29 - 1:19:07 Running 10s test @ http://0.0.0.0:8501/ocr 4 threads and 10...