meta_instruction问题

Open JaheimLee opened this issue 2 years ago • 1 comments

如果说调用plugin插件需要额外的prompt信息是可以理解的。但是普通对话为什么要引入meta_instruction？即便想靠prompt引导模型输出正向结果，这个encode之后长度有200多是不是太浪费了？

Apr 23 '23 04:04 JaheimLee

去掉meta instruction试试看，没准对效果影响不大

Apr 23 '23 10:04 yangs16

Q1：因为带plugin的数据和不带plugin的数据是一块SFT的，为了保持数据格式的一致性，我们在普通对话里也引入了meta_instruction； Q2：感谢对meta instruction的长度的建议，我们在下一次版本中会考虑优化这一部分；

Apr 29 '23 18:04 artpli