过拟合

Results 27 comments of 过拟合

> 我想问下大家,你们使用这个方法,对于当前任务有提升吗?谢谢~ 没有。。。想问下作者能不能提供具体数据集和复现的脚本

7分钟包括模型加载时间嘛?

> 源码下载执行 sh training_scripts/single_node/run_LoRA.sh 报错如下: > > len(train_dataloader) = 334 len(train_dataset) = 1000 args.per_device_train_batch_size = 1 len(eval_dataloader) = 334 len(eval_dataset) = 1000 args.per_device_eval_batch_size = 1 [2023-04-23 11:34:49,179] [INFO] [logging.py:96:log_dist] [Rank...

测试集是有类别的。

建议GPU运行。如果不做量化的话,加载7B模型大概需要28G显存左右。