RuntimeError: Expected tensor for argument #1 'input' to have the same type as tensor for argument #2 'weight'; but type torch.cuda.FloatTensor does not equal torch.cuda.HalfTensor (while checking arguments for cudnn_batch_norm)

[lqian-web]

trafficstars

当我调用apex会出现上面的错误，请问这个问题如何解决？

[WongKinYiu]

看哪個變數型態不對 用 .float() 跟 .half() 轉換

[lqian-web]

看哪個變數型態不對 用 .float() 跟 .half() 轉換

谢谢您的答复，请问我这个是因为O1用多卡训练造成的吗，如果我想让O1用单卡训练，这里的参数 amp.initialize(model, optimizer, opt_level='O1', verbosity=0)要怎么调？

[lqian-web]

我令test.py文件中的half=False,没有出现上述错误，但是另一个错误发生测试的时候：RuntimeError: CUDA out of memory. Tried to allocate 12.71 GiB (GPU 0; 15.78 GiB total capacity; 971.97 MiB already allocated; 12.68 GiB free; 1.93 GiB reserved in total by PyTorch).我设置的尺寸是512*512，batch=1，线程为0，显卡是16gb,

[Wuwenji18]

你后面那个像是显存崩了，关了重新进试试？

[1Fleeting-time]

您发给我的信件已经收到，我会尽快处理，谢谢。