Kun-Zhang-x
Kun-Zhang-x
这个问题我也遇到了,奇怪的是我如果使用阿里百炼上的Qwen3模型就是正常的,但是使用本地vllm0.8.5部署的Qwen3模型就会出现这个问题
> There are a few common reasons why ECharts might not render in Dify even if the code looks correct: > > 1. The markdown formatting is critical: make sure...
> [@Kun-Zhang-x](https://github.com/Kun-Zhang-x) > > 建议检查一下你的“LLM Prompt”——成功渲染的关键是让模型在`echart`结构中输出内容。 > > 例如: > > iShot_2025-06-09_10.38.38.mp4 > 处理数据: { "model_mode": "chat", "prompts": [ { "role": "system", "text": "您是一位乐于助人的副驾驶。\n查找 echart 数据并仅输出答案,请遵循以下内容:\n\n# echart 是\n `echart\n\n`\nThx :P",...
> [@Kun-Zhang-x](https://github.com/Kun-Zhang-x) > > 代理模式似乎也可行。你能检查一下你的法学硕士(LLM)的最终答案是否包含echarts结构吗?(抱歉,我之前的回复漏掉了“s”。) > > iShot_2025-06-09_15.07.10.mp4 > **Thank you very much, by adding the output format constraints, echart will render correctly** 
> 可以贴下工具的输出参数吗?另外我刚更新了一个兜底策略,麻烦拉下看看对你的场景是否有效? 0.0.22版本我也遇到了这个问题,参考下面issue。刚才升级到0.0.24后,调用工具也是出现这个错误,但是模型会一直尝试修改参数重新调用工具,一直循环,这个问题似乎更加严重。 > https://github.com/QwenLM/Qwen-Agent/issues/547
> export QWEN_AGENT_DEBUG=1 > > > 可以贴下工具的输出参数吗?另外我刚更新了一个兜底策略,麻烦拉下看看对你的场景是否有效? > > > > > > 0.0.22版本我也遇到了这个问题,参考下面issue。刚才升级到0.0.24后,调用工具也是出现这个错误,但是模型会一直尝试修改参数重新调用工具,一直循环,这个问题似乎更加严重。 > > > [#547](https://github.com/QwenLM/Qwen-Agent/issues/547) > > 这次修改是在模型输出参数不完整时,让tool抛出报错,模型有修正的机会,看来是遇到模型无法修复的badcase了。可以设置export QWEN_AGENT_DEBUG=1来打印具体的模型输入输出日志给我们看看吗? 以下是报错信息,我观察了一下json确实有问题,末尾多了一个},后续多轮也没有修正成功。我想问下这是qwen3模型对于json格式数据推理能力比较差的原因吗? ``` [TOOL_CALL] quickchart-server-generate_chart {"type": "doughnut", "labels": ["案件大类_9",...
> badcase 删掉temperature也不行,qwen3-235b-a22b试过了,也会出现json错误。但是这种现象的出现是不规律的。
> 试试rapidocr-onnxruntime cpu端呢? rapidocr_onnxruntime==1.3.24 用cpu端就不会报这个错误
> 您好,这个看起来是工具参数输出不合法的json了,请问您用的是:1: 什么模型,2: 如何配置的,3: llm_cfg 是如何设置的? **以下是我的demo,模型采用是阿里百炼的qwen3-32b** ``` def init_agent_service(model: str, api_key: str): llm_cfg = { 'model': 'qwen3-32b', 'model_server': 'https://dashscope.aliyuncs.com/compatible-mode/v1', 'api_key': api_key, 'generate_cfg': { 'temperature': 0, 'extra_body': { 'chat_template_kwargs': {'enable_thinking':...