KennethZ

兄弟们 stop_token 有什么用呀

2

 为啥这个地方human和assistant要加这个，stop_token按我的理解 是在sampling策略中识别到立马截断的吗？那在这个地方加上干啥

我看了一下transformer trainer.py以及trianer_utils.py的源码，他是根据模型forward的signature列，在dataset传入collator之前删去forward不需要的列，我看网上很多人建议设置成true，而且也可以正常微调，但是本项目如果设置为True的话就会在传入collator之前将target mask删去，导致无法collator。