使用lmdeploy框架部署internvl-chat-1.5，输出结果不稳定，精度下降明显，有遇到类似的情况吗？

[YangYangTx]

[chengxm1991]

您好想借楼问一下，lmdeploy部署，推理的gpu利用率大概多少？

[tankgit]

same，虽然没有测试精度，但是试了几张输入，没有几个能理解对的

[czczup]

您好，可以试试看升级到lmdeploy v0.5.3以及以上的版本。