GPT2-Chinese 你们用的显存都是多大，为啥我12G显存 batch

你们用的显存都是多大，为啥我12G显存 batch_size 要设置成2才不会oom

Open icegomic opened this issue 4 years ago • 9 comments

你们用的显存都是多大，为啥我12G显存 batch_size 要设置成2才不会oom

Aug 06 '20 09:08 icegomic

我也是这问题不知道怎么解决 wx wmj5225541 交流下

Aug 23 '20 08:08 drizzt00s

我也是这问题不知道怎么解决 wx wmj5225541 交流下

修改n_ctx试试

Sep 04 '20 01:09 asd51731

out of memory 调整参数就行了，还有一个很神奇的错误，是源自于embed size。

Oct 24 '20 04:10 movecpp

我也是不科学啊 11g显存的2080ti 只能设置batch size为 2，大佬你问题解决了吗

May 21 '21 05:05 Vang-z

3090也才设置成6 加钱就行

Feb 10 '22 14:02 liangcaihua

神他喵加钱,改参数好哇

Mar 17 '22 21:03 BiEchi

context_length = 128

Oct 27 '22 03:10 supermy

3060 12GB 设置成3 ，变成4就oom

Feb 21 '23 08:02 cywjava

batch_size 8 显存得24G

Dec 13 '23 03:12 chenggouA