manateeniu

Results 1 comments of manateeniu

使用的https://github.com/AlibabaResearch/DAMO-ConvAI/tree/main/PRO/train/main.py训练llama模型,使用zero3,保存模型就只保存部分,使用fp16就是正常的