agentscope
agentscope copied to clipboard
本地部署llama3:8b 按照狼人杀案例格式不能正常运行
设置如下
可以问问我该怎么解决吗?我的代码文件是按照狼人杀案例的格式来完成的
主要原因是大模型的回复不符合预期导致的,具体可以参考MarkdownJsonDictParser的源码,源码里的prompt是"Respond a JSON dictionary in a markdown's fenced code block as follows: \n```json\n{content_hint}\n```",但是大模型的回复是"``` xxxx ```",导致提取内容出错。
具体细节可以看一下源码以及里面的tag_begin等参数。
修改方法的话,可以去修改MarkdownJsonDictParser的prompt以及对应的tag_begin参数,也可以用其他的parser,比如MultiTaggedContentParser。
详细教程也可以参考https://doc.agentscope.io/zh_CN/build_tutorial/structured_output.html#id3