Aaron Chung

Results 1 issues of Aaron Chung

如题,我想用hf transformers来推理,但是看到[手动模型合并与转换](https://github.com/ymcui/Chinese-LLaMA-Alpaca/wiki/%E6%89%8B%E5%8A%A8%E6%A8%A1%E5%9E%8B%E5%90%88%E5%B9%B6%E4%B8%8E%E8%BD%AC%E6%8D%A2)这里所言的步骤只有: 1. 转换原版llama 2. 合并lora 并没有量化步骤。请问量化在哪里做呢? 另外有一点不懂,就是llama和alpaca这两个是一样的吗...,意思就是Chinese llama、Chinese alpaca都可以和原版llama合并lora权重?

stale