LLM-Tuning issues

lora tuning 出的权重，再加一个合并的功能？

1

作者好目前用 model = PeftModel.from_pretrained(model, "weights/simple_math_4op").half() 加载Lora，能否提供一个功能merge一下了

litetoooooom

微调的时候如何让模型记住一些特有的知识呢

3

微调的时候如何让模型记住一些特有的知识呢？比如问你是谁，由谁开发的场景，需要模型回答固定的答案这样，类似于faq

controZheng

是否支持多轮对话的微调？

1

我这里大概有1000条多轮对话的数据，可以用这个脚本进行微调吗？如果可以应该怎么构造数据结构？

yaakua

Chinese-LLaMA-Alpaca有计划安排加入吗？

1

Chinese-LLaMA-Alpaca有计划安排加入到本项目吗？

SilenceWinter

@st.cache_resource def get_model(): tokenizer = AutoTokenizer.from_pretrained("chatglm2-6b", trust_remote_code=True) model = AutoModel.from_pretrained("chatglm2-6b", trust_remote_code=True).cuda() model = PeftModel.from_pretrained(model, "weights/sentiment_comp_ie_chatglm2").half() # 多显卡支持，使用下面两行代替上面一行，将num_gpus改为你实际的显卡数量 # from utils import load_model_on_gpus # model = load_model_on_gpus("chatglm2-6b", num_gpus=2) model = model.eval()...

dragononly