8G显存运行 basic_demo 加载到29%退出，无报错

[nick-bai]

System Info / 系統信息

改动了 basic_demo中的 cli_demo ,并设置了量化 加载到29% 如下图，自动退出了，无任何报错 这是什么原因啊

Who can help? / 谁可以帮助到您？

No response

Information / 问题信息

• [ ] The official example scripts / 官方的示例脚本
• [ ] My own modified scripts / 我自己修改的脚本和任务

Reproduction / 复现过程

8g显存运行basic_demo

Expected behavior / 期待表现

正常加载

[zRzRzRzRzRzRzR]

你这个是量化的，量化的时候吃内存，你这个闪退应该是内存不够，内存要16G，显存8G够

[nick-bai]

内存是16G 估计还有别的东西在运行，实际应该大于16G 来试试，我换个大点的内存