ERNIE-SDK icon indicating copy to clipboard operation
ERNIE-SDK copied to clipboard

ERNIE模型对message的轮次,role的限制

Open thinkall opened this issue 2 years ago • 3 comments

如下图所示,错误示例及错误代码。ERNIE模型对message的轮次,role有一定的限制,但这些限制会导致模型无法在复杂场景下应用。

image

image

这个限制在openAI里是没有的: image

thinkall avatar Nov 28 '23 03:11 thinkall

你好,目前ERNIE Bot API做出这样的约束我想应该主要是考虑到在“对话”场景中“你一句,我一句”是符合直觉的。请问具体是什么样的应用场景中存在图中所示的情况呀?

目前如果需要支持连续多条同样role的message的话,我建议可以添加一个中间层,将连续的同样role的message内容拼接,构成一条message。

Bobholamovic avatar Nov 30 '23 03:11 Bobholamovic

你好,目前ERNIE Bot API做出这样的约束我想应该主要是考虑到在“对话”场景中“你一句,我一句”是符合直觉的。请问具体是什么样的应用场景中存在图中所示的情况呀?

目前如果需要支持连续多条同样role的message的话,我建议可以添加一个中间层,将连续的同样role的message内容拼接,构成一条message。

如果我有多个agent,一些agent背后是ERNIE Bot, 一些是human input, 这些agent之间进行对话,就会出问题。但把ERNIE bot换成其他的LLM,就不会出问题。事实上,这个限制是没有必要的。不限制,并不影响你一句我一句。

thinkall avatar Dec 01 '23 04:12 thinkall

辛苦 @sijunhe @juncaipeng 模型侧是否有必要支持这一场景~

Bobholamovic avatar Dec 04 '23 03:12 Bobholamovic