zero_nlp
zero_nlp copied to clipboard
我用了BELLE的0.5M语料训练
训练后的输出不太对劲,每个输出后面都有自己提问。。。如下所示
还有
这些问题都是回答的时候自己生成的,是不是因为微调预处理输入问题。。。或者数据没处理好?
使用我最近发布的代码试一试,昨晚上我又更新了代码
发自我的 iPhone
在 2023年3月31日,00:05,caisheng @.***> 写道:
训练后的输出不太对劲,每个输出后面都有自己提问。。。如下所示 [image]https://user-images.githubusercontent.com/52614226/228896254-779cd355-e1f8-47be-97c8-0270e792e88b.png 还有 [image]https://user-images.githubusercontent.com/52614226/228896624-31dd2c76-3ed8-4414-b212-a5e3e2c25a27.png 这些问题都是回答的时候自己生成的,是不是因为微调预处理输入问题。。。或者数据没处理好?
— Reply to this email directly, view it on GitHubhttps://github.com/yuanzhoulvpi2017/zero_nlp/issues/45, or unsubscribehttps://github.com/notifications/unsubscribe-auth/AHJRI6NZFCFBYILFUWENQYTW6WVNRANCNFSM6AAAAAAWNQJNAI. You are receiving this because you are subscribed to this thread.Message ID: @.***>
有朋友反映,这种是没有做对齐,因此,我昨晚又更新了一下代码,你试一试。
新代码训练后正常了
你好,可以说一下是修改了哪一部分代码吗?我是用的别人仓库的代码,出现的问题和你的类似,麻烦了!