zero_nlp icon indicating copy to clipboard operation
zero_nlp copied to clipboard

我用了BELLE的0.5M语料训练

Open 1079863482 opened this issue 1 year ago • 4 comments

训练后的输出不太对劲,每个输出后面都有自己提问。。。如下所示 image 还有 image 这些问题都是回答的时候自己生成的,是不是因为微调预处理输入问题。。。或者数据没处理好?

1079863482 avatar Mar 30 '23 16:03 1079863482

使用我最近发布的代码试一试,昨晚上我又更新了代码

发自我的 iPhone

在 2023年3月31日,00:05,caisheng @.***> 写道:



训练后的输出不太对劲,每个输出后面都有自己提问。。。如下所示 [image]https://user-images.githubusercontent.com/52614226/228896254-779cd355-e1f8-47be-97c8-0270e792e88b.png 还有 [image]https://user-images.githubusercontent.com/52614226/228896624-31dd2c76-3ed8-4414-b212-a5e3e2c25a27.png 这些问题都是回答的时候自己生成的,是不是因为微调预处理输入问题。。。或者数据没处理好?

— Reply to this email directly, view it on GitHubhttps://github.com/yuanzhoulvpi2017/zero_nlp/issues/45, or unsubscribehttps://github.com/notifications/unsubscribe-auth/AHJRI6NZFCFBYILFUWENQYTW6WVNRANCNFSM6AAAAAAWNQJNAI. You are receiving this because you are subscribed to this thread.Message ID: @.***>

yuanzhoulvpi2017 avatar Mar 30 '23 23:03 yuanzhoulvpi2017

有朋友反映,这种是没有做对齐,因此,我昨晚又更新了一下代码,你试一试。

yuanzhoulvpi2017 avatar Mar 31 '23 05:03 yuanzhoulvpi2017

新代码训练后正常了

1079863482 avatar Mar 31 '23 06:03 1079863482

你好,可以说一下是修改了哪一部分代码吗?我是用的别人仓库的代码,出现的问题和你的类似,麻烦了!

chouife avatar Apr 06 '23 07:04 chouife