gangdao

Results 5 comments of gangdao

别浪费时间跑他的代码啦,微调前后结果一样,纯纯浪费时间

> 别浪费时间跑他的代码啦,微调前后结果一样,纯纯浪费时间 回来更新,作者更新了lora权重的保存代码后,lora微调能够看到效果了,给作者点赞

> > > 别浪费时间跑他的代码啦,微调前后结果一样,纯纯浪费时间 > > > > > > 回来更新,作者更新了lora权重的保存代码后,lora微调能够看到效果了,给作者点赞 > > 你说的是这段代码吗? > > [beyondguo/LLM-Tuning@91940c4#diff-d046cc8e9b7b437e8fed9c590640b10b5e1a379f606b36b205e71ae6368fa4f4](https://github.com/beyondguo/LLM-Tuning/commit/91940c462d6c76e2bf18940676634ba6ac1418eb#diff-d046cc8e9b7b437e8fed9c590640b10b5e1a379f606b36b205e71ae6368fa4f4) 嗯嗯是的,给郭必扬点赞

作者更新代码后,新版的代码按照教程微调有效果的

我最新查了下官方HF上的repo更新,https://huggingface.co/THUDM/chatglm2-6b/commit/189e5df1609cdbd1704e7d0204301ad4c7791f61 看到已经修复了get_input_embeddings 的问题,你下载最新的[modeling_chatglm.py](https://huggingface.co/THUDM/chatglm2-6b/commit/189e5df1609cdbd1704e7d0204301ad4c7791f61#d2h-054989) 和 config.json 就可以正确运行了,也不需要注释。引用自https://github.com/THUDM/ChatGLM2-6B/issues/51#issuecomment-1608795977