Qwen2.5
Qwen2.5 copied to clipboard
使用Adgen广告数据微调Qwen-MoE,输出问题
我使用Adgen广告数据微调Qwen-MoE-chat模型时,输出开头会有一些特殊的字段
如”Humanmade“、”Humanity“、”Human“等,我的训练数据中没有这些字段,我的prompt构造也是符合你们的模板,在微调其他MoE模型时均没有出现过这种情况?