Felix

我的解决方法：id: ''。 demo www.crazyqq.com

ubuntu myeclipse下确认,修改后可用.

我这边也试了下，int8与Int4 显存占用都很多，等大佬优化吧

Same request