[Question]:量化的ptq_argument.json里的 "model_name_or_path": "./checkpoints/llama_sft_ckpts"是什么样的模型？

[1826133674]

请提出你的问题

在运行llama量化示例的时候发现，输入模型的名字是"model_name_or_path": "./checkpoints/llama_sft_ckpts" 想问一下这个输入是不是就是原版的 llama/meta-llama/Llama-2-7b-chat模型