请问OmniLMM-12B能8bit量化吗？

[jiayev]

个人研究使用24GB的4090，在实际环境中非常容易爆显存。