zhanghengjiayou
zhanghengjiayou
> 显存的占用不仅仅取决于模型的大小,还与模型结构、批量大小等有关。 训练ppocrV4的rec(hgent)和det(teacher)需要多大显存啊,老师,btach size较小的情况下
> 为什么cpu内存占用也会增加好几个G。按理说,模型不是全都加载到GPU了吗? 读取图像是从内存到显存的,跟bs有关
> > > 显存的占用不仅仅取决于模型的大小,还与模型结构、批量大小等有关。 > > > > > > 训练ppocrV4的rec(hgent)和det(teacher)需要多大显存啊,老师,btach size较小的情况下 > > 微调det db++的情况下batch size 16的情况下 显存大概消耗 18G, 这两个模型可以根据机器情况测一下 谢谢老师
> 我可能忘说了,是在推理的情况下,不是在训练的情况下 我这边也很大,你可以用异步并发的方式,起一个服务调一个卡就可以了
我咋感觉是模型和ymal不匹配的关系啊
请问你这个问题解决了嘛