chenjian
chenjian
可以移步 [FastDeploy](https://github.com/PaddlePaddle/FastDeploy) 套件进行多硬件部署
你好,刚刚我check一下这个模块的代码,确实如你所说。欢迎你对发现的这种类似bug进行提PR修复呀,如果确认没问题我们会对齐进行合入~
你好,理论上这个服务的推理速度,和你直接调用模块对你的数据进行推理的速度是一样的,你可以直接使用module来预测你的数据,记入一下时间,然后记录一下你的请求到回来的时间,看看两者差的大不大。这个nvidia-smi是短时间内的"瞬时利用率",如果你用这个命令时候,GPU已经推理完了,那可能这时候就会显示为0。
收到,这边检查一下是不是啥依赖的库升级不兼容了之类的,你的报错栈信息可以截取一下给我看看吗
我刚把你的这个文件放到aistudio上跑了一下,测了单张图是可以的,视频我没有素材,然后我用单张图像跑了一下process_frame函数,有一些别的error需要处理一下。
我在aistudio里用你的视频跑没有报上述错误,另外,你检查一下你的scalar这个变量名,有一个if分支下没有定义,还有一个位置变量名写错了。我改一下这个问题后,没有出现那个啥静态图的错误。
可能不是paddlehub要求numpy > 19, 我看requirements里对numpy没写版本要求,可能是某个依赖库对numpy做出>19的版本要求,这个版本冲突会导致运行不起来么现在
一时我也不好判定是不是啥环境问题导致的,这个模型所耗费的显存非常大,一般显存可能带不动,这边建议可以直接在aistudio上用免费显卡进行尝试,我刚刚上了这个项目测了下,发现这个模型在aistudio上还是能跑的。 https://aistudio.baidu.com/aistudio/projectdetail/4444984?channelType=0&channel=0
这个模型所需要的显存是很大的,会不会是显存不足的原因。