Firefly icon indicating copy to clipboard operation
Firefly copied to clipboard

关于参数remove_unused_columns = false

Open Kenneth0901 opened this issue 5 months ago • 0 comments

我看了一下transformer trainer.py以及trianer_utils.py的源码,他是根据模型forward的signature列,在dataset传入collator之前删去forward不需要的列,我看网上很多人建议设置成true,而且也可以正常微调,但是本项目如果设置为True的话就会在传入collator之前将target mask删去,导致无法collator。

Kenneth0901 avatar Sep 08 '24 04:09 Kenneth0901