FunASR icon indicating copy to clipboard operation
FunASR copied to clipboard

funasr-runtime-sdk-gpu-0.1.1镜像部署的服务,存在内存泄露问题

Open zane5566 opened this issue 1 year ago • 0 comments

Notice: In order to resolve issues more efficiently, please raise issue following the template. (注意:为了更加高效率解决您遇到的问题,请按照模板提问,补充细节)

🐛 Bug

funasr-runtime-sdk-gpu-0.1.1镜像部署的服务,存在内存泄露问题

To Reproduce

Steps to reproduce the behavior (always include the command you ran):

  1. 部署镜像版本: funasr-runtime-sdk-gpu-0.1.1

  2. 服务器启动后:显存使用情况 2354MiB/40960MiB, 内存使用情况 29.1G/125G

  3. 发送了30个并发请求,每个请求使用160mb大小的音频文件,全部处理完毕后: 内存使用情况 36.1G/125G

  4. 重启服务:显存使用情况 2354MiB/40960MiB, 内存使用情况 29.1G/125G

  5. 发送100个并发请求,每个请求使用160mb大小的音频文件,全部处理完毕后:内存使用情况 49G/125G

Code sample

Expected behavior

Environment

  • OS (e.g., Linux): Ubuntu 22.04.3 LTS
  • GPU (e.g., A100)
  • CUDA/cuDNN version (e.g., cuda12.0):
  • Docker version (e.g., funasr-runtime-sdk-gpu-0.1.1)

Additional context

-- decoder_thread_num 设置越大 ,并发越多时,内存占用越多

zane5566 avatar Jul 23 '24 08:07 zane5566