4-bit-quantization topic

List 4-bit-quantization repositories

MedCoT-7B

38
Stars
6
Forks
38
Watchers

本项目利用医学领域的 CoT 数据对 Deepseek-R1-Distill-Qwen-7B 进行微调,通过 QLoRA 量化和 Unsloth 加速训练,显著提升模型在复杂医学推理任务中的慢思考能力。知识蒸馏技术使轻量级模型获得大模型的推理优势,实...