Hongbo YIN

### Description 在32G GPU上跑aquila-7B推理的示例代码显示out of memory，请问需要多少显存？ 其他7B大模型是可以跑的，aquila模型的显存消耗会比较高吗？ ### Alternatives _No response_