Facico
Facico
能给出更详细一点的报错信息吗，不过我猜测你应该是加载了别人的模型？你可以参考一下类似的[issue](https://github.com/Facico/Chinese-Vicuna/issues/24)
你只给了这个报错信息，我只能判断你模型使用的tokenzier和我们使用的tokenzier不一致。你可以参考我们issue提问模板进行提问，或者参考一下别人是怎么提问的。 问的太抽象我不能很好的复现出你的问题。
你可以去跑一下这里面的[第三个问题的程序](https://github.com/Facico/Chinese-Vicuna/blob/master/docs/problems.md)，看看能不能正常输出
兄弟，你要是还没解决的话，可以加一下我们在主页上提供的qq群或者discord群
主要是你描述不清楚你的问题，我很难复现出你的问题
兄弟，环境、机器、各种库的依赖等等各种因素都不一样的。我们把各种代码配置都贴出来了，你都不能保证完美复现我们的东西，你就描述一个报错信息我要怎么复现你的错误？ 就是因为很多人总是问重复的问题，或者不知道怎么问问题，我们都已经把qq群贴出来了。。。 同时我上面建议你跑的测试程序你跑了吗？
可能是模型自己的问题，llama那边的tokenizer改过好几次，transformers中llama的代码也改过好几次
你llama-7b是从huggingface拉去的吗，从huggingface拉去，如果transformers版本和我们差不多的话应该是不会有这个问题的，transformers版本可以4.28.1
@chenzk1993 你好，能提更详细的训练信息吗。比如训练脚本，是否有修改参数，所使用的数据之类的。