BCILiang

我的问题是我在You are a helpful assistant.后面错误使用了“希望你以后能够做的比我还好呦。”这个提示词，但prompt音频是我自己的，导致重复和乱说，换成You are a helpful assistant.+prompt音频的识别结果后就正常了

> fp16=True的话你的能够正常使用吗？我的是生成的音频没有任何声音。我用Linux服务器部署设置load_trt=True是能够正常使用的。 我遇到了和你一样的问题，设置fp16=True生成的音频没有任何声音，而且似乎只有同时设置load_trt=True和fp16=True才会出现，请问你有发现原因吗

> > fp16=True的话你的能够正常使用吗？我的是生成的音频没有任何声音。我用Linux服务器部署设置load_trt=True是能够正常使用的。 > > 我遇到了和你一样的问题，设置fp16=True生成的音频没有任何声音，而且似乎只有同时设置load_trt=True和fp16=True才会出现，请问你有发现原因吗 我解决了这个问题，是因为我安装了低版本的tensorrt，：）

> > > > fp16=True的话你的能够正常使用吗？我的是生成的音频没有任何声音。我用Linux服务器部署设置load_trt=True是能够正常使用的。 > > > > > > > > > 我遇到了和你一样的问题，设置fp16=True生成的音频没有任何声音，而且似乎只有同时设置load_trt=True和fp16=True才会出现，请问你有发现原因吗 > > > > > > 我解决了这个问题，是因为我安装了低版本的tensorrt，：） > > 方便问一下你的tensorrt和vllm的版本吗？ vllm==0.9.0, tensorrt-cu12, tensorrt-cu12-bindings, tensorrt-libs都是10.13.3.9