ldwang
ldwang
> ```python > no_grad > ``` 我觉得predict部分需要 no_grad 包一下，不然会增加显存。
> > > > 感谢。`AutoLoader`追加`device="cuda"`后，现在是24G显存不够的错误。 > > ```shell > OutOfMemoryError: CUDA out of memory. Tried to allocate 172.00 MiB (GPU 0; 23.68 GiB total capacity; 22.89 GiB already > allocated;...
> > > > > > > > > > > > > 感谢。`AutoLoader`追加`device="cuda"`后，现在是24G显存不够的错误。 > > > ```shell > > > OutOfMemoryError: CUDA out of memory. Tried to allocate 172.00...
先关闭issue，如有问题请再打开。谢谢
class_num 跟ckpt不一致。如果要修改class_num，需要加载其他部分，自己修改task head。
先关闭，如有问题重新打开issue，谢谢
@Hou-jing 有空可以更新下这个PR，谢谢
We shall publish full performance of aquila-7B soon. Thanks.
先关闭，如有问题重新打开issue，谢谢
可能是内存爆了。预计会发个版本1.7.2，内存需要32G，显存需要16G。