PaddleSlim icon indicating copy to clipboard operation
PaddleSlim copied to clipboard

Published 20 hours ago • verified publisher icon PaddlePaddle

本地只有4张4090显卡是否可以使用LoRA训练LLama 3.1 8b的模型

Open yaphet266 opened this issue 4 months ago • 0 comments

我现在只有4张4090显卡，单卡显存24G，总显存只有96G，是否可以训练LLama 3.1 8b的模型，我现在按照官网文档无法运行成功，请问如何调整参数可以在比较少显存的情况下进行训练

yaphet266 avatar Oct 21 '24 06:10 yaphet266