Qinger27
Results
13
comments of
Qinger27
> 我采用huggingface上提供的加载模型推理的方式，然后传入图片得到结果，和提供的chatdemo结果相差比较大 请问您使用的gpu是多大的显存？我用了两张32g的卡，模型加载时设置device_map="auto"进行推理, 但是报错RuntimeError: Expected all tensors to be on the same device, but found at least two devices, cuda:0 and cuda:1!，请问可以帮忙看一下吗？感谢～
我也遇到了这种情况
上面的问题已解决，但是又出现了新的问题，NotImplementedError: Cannot copy out of meta tensor; no data!，可以帮忙看一下吗？感谢～