Emotion-LLaMA icon indicating copy to clipboard operation
Emotion-LLaMA copied to clipboard

的硬件最低要求是怎样的呢?

Open HYS252 opened this issue 3 months ago • 7 comments

配套代码的硬件最低要求是怎样的呢?

HYS252 avatar Sep 18 '25 07:09 HYS252

训练我们使用的是4张40G的显卡,训练时显卡占用大概是30到35G。 推理我们使用的是1张20G的显卡,推理是显卡占用大概是10G。

ZebangCheng avatar Sep 19 '25 06:09 ZebangCheng

就是显存大于35G就应该能满足训练以及推理的要求了吗?只是显卡没你们的好的话,耗时会比较久咯

HYS252 avatar Sep 19 '25 06:09 HYS252

嗯嗯,显卡大于35G就能满足训练。

ZebangCheng avatar Sep 19 '25 07:09 ZebangCheng

您好,是总共显存大于 35g 么,对单卡大于多少满足最好的精度有要求么

ddc443 avatar Oct 08 '25 17:10 ddc443

您好,是总共显存大于 35g 么,对单卡大于多少满足最好的精度有要求么

您好。训练要求是单卡显存大于35G。

如果只是复现我们的实验结果,或者只是用于推理,显存只需要20G即可推理。

ZebangCheng avatar Oct 09 '25 01:10 ZebangCheng

你好,那训练和推理所消耗的时间是多少呢?

emocat17 avatar Nov 07 '25 04:11 emocat17

你好,那训练和推理所消耗的时间是多少呢?

训练我们使用的4卡*40G的A100服务器,batch size设置为1. 训练一轮是30个epoch * 5000个samples. 训练时间是20个小时左右。

ZebangCheng avatar Nov 07 '25 07:11 ZebangCheng