SPQR 稀疏量-llm模型压缩

[ziwang-com]

https://github.com/Vahe1994/SpQR SPQR 模型压缩 此存储库包含演示用于 LLM 压缩的 SpQR 方法的代码。

它伴随着研究论文“SpQR：几乎无损LLM权重压缩的稀疏量化表示”。