dl-engineer-guidebook
dl-engineer-guidebook copied to clipboard
如何计算模型所需的显存?
培哥,这方面有没有经验呀? input shape 固定的(比如(224,224,3))情况 input shape 不固定的(比如(None, None, 3))情况
PyTorch 的话可以用这个库计算:https://github.com/Stonesjtu/pytorch_memlab
但是如果尺寸不固定,那么显存用量是算不出来的,你可以根据固定尺寸的显存占用量进行比例换算。比如输入图像如果是 (256, 256, 3),那么显存占用量大约是 (224, 224, 3) 的 1.3倍。
可以把这个放在 《指南》里不,包括tensorflow 的显存占用计算