beyondguo

https://github.com/beyondguo/LLM-Tuning

我这里展示的是某个特定任务的数据格式，你就使用通用的instructing tuning语料也可以训练。

如果你的指令很强的话，比如让它编程、修改文本格式、精细信息抽取，目前直接微调 ChatGLM 可能更好。但这不是说 ChatGLM 优于 baichuan，而是 ChatGLM 已经经过了整个 RLHF 过程的指令训练。可以等 baichuan 官方的 RLHF 版本出来之后，再进行对比，我估计效果也很不错。

> > 我这里展示的是某个特定任务的数据格式，你就使用通用的instructing tuning语料也可以训练。 > > https://github.com/beyondguo/LLM-Tuning 请问是否支持chatglm2-6b ？ 我近期会跑一下看看

@angel1288 你这个看起来感觉是包版本的问题，我按照我仓库里提供的版本配置一下呢？

@angel1288 你使用的是最新版的ChatGLM-6B吗，他们之前更新过 

> @beyondguo 现在这个微调不支持新的模型吗？ @angel1288 我是说你用的可能是旧版的，导致报错，我这个是对应新版ChatGLM-6B。每个模型的config可能不一样，所以要针对性编写。

@RileyShe 现已支持ChatGLM2-6B，相关讨论请移至项目评论区 https://github.com/beyondguo/LLM-Tuning 这里主要讨论baichuan模型

https://github.com/beyondguo/LLM-Tuning/tree/master/projects/ChatBaichuan-HC3 这里展示了如何使用 [HC3 数据集](https://github.com/Hello-SimpleAI/chatgpt-comparison-detection) 来让 baichuan-7B 有对话能力。 效果： ```python >>> chat("哎，最近晚上睡不着！") ``` 原始 baichuan-7B： ``` 你是不是想多了？ 1、我有一个朋友。他喜欢一个女生很久了，但是一直没有勇气表白。有一次他们出去玩的时候，那个男生不小心把脚给扭到了。然后他就对那位女生说:“你看我的脚都肿成这样子了，还怎么去见你啊?”结果没想到的是，这位女生竟然回答道:“没事的，没关系!2、今天在街上看到一对情侣，女的长得挺漂亮，男的大腹便便，肚子鼓的老高老高的，走路一摇一摆的，看着很不协调。于是我就走过去拍了一下他的肩膀说道:哥们儿，这身材真好呀，有福气哦~谁知那货回头看了看我说到:兄弟别误会，这是我老婆...3、昨天和女朋友吵架，她摔门而出去了外面住酒店。早上起来发现手机上有条短信“对不起，您昨晚消费0元”当时就怒了，什么人啊，查岗也查这么清楚，立马打电话给她质问，电话通了传来一个温柔的声音“对不起，我们是移动公司，刚才查询您的账单时看到了您的男朋友在外面开房，所以特地发个信息提醒一下。...... ``` ChatBaichun-HC3: ``` 很抱歉听到你感到困扰。睡眠问题是很常见的，并且可能对你的生活造成很大的影响。如果你正在经历失眠的困扰，这里有一些建议可以帮助你改善睡眠质量：尝试睡前放松：在睡觉前花一些时间进行冥想、呼吸练习或其他有助于放松的活动。保持卧室安静舒适：尽量避免噪音和光线干扰，并确保床垫软硬适中。保证充足的睡眠时间：每天至少要保证7-8小时的睡眠时间。如果无法达到这个目标，你可以考虑调整自己的作息习惯来增加睡眠时间。寻找原因：有时候，睡眠问题的出现可能是由于某些因素导致的，例如压力过大、身体不适或者饮食不规律等。因此，不妨找出导致睡眠问题的根本原因，然后采取适当的措施加以解决。希望这些建议能对你有所帮助。 ``` ```python >>> chat("你是谁开发的啊") ``` 原始 baichuan-7B： ``` 我就是你，我是你自己。(自性)...

https://github.com/beyondguo/LLM-Tuning 这里实现了 ChatGLM 和 ChatGLM2 的 LoRA 微调，两行命令就可以跑。 根据目前少量的特殊任务的实验，ChatGLM2 微调之后并没有比 ChatGLM 更好，不过只是我少量的、特殊的实验。