Qwen-Agent icon indicating copy to clipboard operation
Qwen-Agent copied to clipboard

同样是openai兼容模型,为什么百炼上面使用key的qwen2.5 72B的tool use能力比本地vllM的函数函数调用准确性高

Open jianglingling007 opened this issue 4 months ago • 2 comments

实测qwen2.5的tool use能力,为什么同样使用openai兼容模式时,百炼上面的qwen2.5 72B比本地vLLm启动模型服务,tool use的调用准确性高很多?

jianglingling007 avatar Oct 03 '24 12:10 jianglingling007