nlp999

Results 2 comments of nlp999

> 问一下 您说的是加上history的时候验证模型时候发现评分变高了是吗? 这个应该不影响你推理时候的对话效果吧? 我个人是发现训练多轮时候还不如训练单轮对话的数据效果好,多轮对话 即使max_length设置很高了 对话一句两句还行 后面就无限重复前两句回答,不知道友情况如何.. :) 是的,这是加history之前的评分 ![4f0bc2f23d4d0ee5f34836ac998ea57](https://github.com/THUDM/ChatGLM2-6B/assets/96683254/64a392b3-ffd5-4422-adcc-391e9236916a) 加了history之后的评分是 ![c58560a9488b6fffa5a4b2eeb0acb0a](https://github.com/THUDM/ChatGLM2-6B/assets/96683254/f9a13a55-cee1-4be1-8dec-7e3bc62f5fc5) 评分确实高了,推理时候的对话效果应该不影响,只是看看能到多少分。单轮对话我没有训练过,只训练的多轮对话,效果分情况,有的表现好,有的表现差,我怀疑可能是数据样本不平衡造成的,我的数据是自己整理的也不多,数据这块挺花费时间的,我目前还在改数据。

> > > 问一下你说的是加上历史的时候验证模型的时候发现评分变高了是吗?这个应该不会影响你推理时候的对话效果吧?我个人是发现训练多轮的时候还不如训练单轮对话的数据效果好,多轮对话即使max_length设置了很开心了对话一句两句还行后面就无限重复前两句回答,不知道朋友情况如何..:) > > > > > > 是的,这是加历史之前的评分 加了历史之后的评分是 评分确实高了,推理时候的对话效果应该不影响,只是看看能到多少分。单轮对话我没有训练过,只训练的多轮对话,效果分情况,有的表现好,有的表现差,我怀疑可能是数据样本不平衡造成的,我的数据是自己整理的也不是多,数据这块挺费时间的,我目前仍在修改数据。 ![4f0bc2f23d4d0ee5f34836ac998ea57](https://user-images.githubusercontent.com/96683254/257122091-64a392b3-ffd5-4422-adcc-391e9236916a.png) ![c58560a9488b6fffa5a4b2eeb0acb0a](https://user-images.githubusercontent.com/96683254/257122157-f9a13a55-cee1-4be1-8dec-7e3bc62f5fc5.png) > > 你表现好的模型 能进行几轮有效对话呢 不知道有没有出现发什么模型都回复同一句话的情况呢。 我在训练集上也测试了,有的能正常对话四五轮,后面的就不按训练集答复了,也会出现问同一句话模型都回复同一句话的情况,但是换一句话问,模型回复也会变,不是发什么模型都回复同一句话,也可能我测试的还不够多,我目前用的max_source_length是768,我训练了100个epoch,感觉训练集记住的太少,没有达到这个长度,不知你设置的多大?