Firefly
Firefly copied to clipboard
关于参数remove_unused_columns = false
我看了一下transformer trainer.py以及trianer_utils.py的源码,他是根据模型forward的signature列,在dataset传入collator之前删去forward不需要的列,我看网上很多人建议设置成true,而且也可以正常微调,但是本项目如果设置为True的话就会在传入collator之前将target mask删去,导致无法collator。