agentscope icon indicating copy to clipboard operation
agentscope copied to clipboard

本地部署llama3:8b 按照狼人杀案例格式不能正常运行

Open Xu-Qiu opened this issue 8 months ago • 1 comments

Image

设置如下

Image

可以问问我该怎么解决吗?我的代码文件是按照狼人杀案例的格式来完成的

Xu-Qiu avatar May 16 '25 03:05 Xu-Qiu

主要原因是大模型的回复不符合预期导致的,具体可以参考MarkdownJsonDictParser源码,源码里的prompt是"Respond a JSON dictionary in a markdown's fenced code block as follows: \n```json\n{content_hint}\n```",但是大模型的回复是"``` xxxx ```",导致提取内容出错。 具体细节可以看一下源码以及里面的tag_begin等参数。 修改方法的话,可以去修改MarkdownJsonDictParser的prompt以及对应的tag_begin参数,也可以用其他的parser,比如MultiTaggedContentParser。 详细教程也可以参考https://doc.agentscope.io/zh_CN/build_tutorial/structured_output.html#id3

qbc2016 avatar May 16 '25 03:05 qbc2016