dl-engineer-guidebook icon indicating copy to clipboard operation
dl-engineer-guidebook copied to clipboard

如何计算模型所需的显存?

Open zhudaoruyi opened this issue 5 years ago • 2 comments

培哥,这方面有没有经验呀? input shape 固定的(比如(224,224,3))情况 input shape 不固定的(比如(None, None, 3))情况

zhudaoruyi avatar Jun 23 '19 09:06 zhudaoruyi

PyTorch 的话可以用这个库计算:https://github.com/Stonesjtu/pytorch_memlab

但是如果尺寸不固定,那么显存用量是算不出来的,你可以根据固定尺寸的显存占用量进行比例换算。比如输入图像如果是 (256, 256, 3),那么显存占用量大约是 (224, 224, 3) 的 1.3倍。

ypwhs avatar Jun 23 '19 11:06 ypwhs

可以把这个放在 《指南》里不,包括tensorflow 的显存占用计算

zhudaoruyi avatar Jun 28 '19 02:06 zhudaoruyi