Emotion-LLaMA
Emotion-LLaMA copied to clipboard
的硬件最低要求是怎样的呢?
配套代码的硬件最低要求是怎样的呢?
训练我们使用的是4张40G的显卡,训练时显卡占用大概是30到35G。 推理我们使用的是1张20G的显卡,推理是显卡占用大概是10G。
就是显存大于35G就应该能满足训练以及推理的要求了吗?只是显卡没你们的好的话,耗时会比较久咯
嗯嗯,显卡大于35G就能满足训练。
您好,是总共显存大于 35g 么,对单卡大于多少满足最好的精度有要求么
您好,是总共显存大于 35g 么,对单卡大于多少满足最好的精度有要求么
您好。训练要求是单卡显存大于35G。
如果只是复现我们的实验结果,或者只是用于推理,显存只需要20G即可推理。
你好,那训练和推理所消耗的时间是多少呢?
你好,那训练和推理所消耗的时间是多少呢?
训练我们使用的4卡*40G的A100服务器,batch size设置为1. 训练一轮是30个epoch * 5000个samples. 训练时间是20个小时左右。