ychan

Results 2 comments of ychan

抱歉,在代码中看到这部分解释了!

> 你好,我们命令里面目前还没有兼容cpu的推理,如果想放在cpu上推理,可以在tiger_infer.py代码里将DEV变量改为 DEV = torch.device('cpu') 来试试 改了DEV和出现.cuda()的地方还是报错: ![image](https://github.com/TigerResearch/TigerBot/assets/31604046/082561cf-a595-4c13-a792-e22642b85951) 请问第一个在GPU推理时MMA的报错是什么原因吗?