joveth1

> > > ### 详细描述问题 > > > 尝试进行预训练，训练数据加载和处理阶段发生错误。 以下是run_pt.sh的配置： > > > ``` > > > lr=2e-4 > > > lora_rank=8 > > > lora_alpha=32 > > > lora_trainable="q_proj,v_proj,k_proj,o_proj,gate_proj,down_proj,up_proj"...