Ray
Ray
更新protobuf可以解决： !pip install protobuf==3.20.0
int4在gpu下运行的很好，应该不是int4模型的问题
解决了吗？同样的问题