xianghuisun

请问您是基于哪一版代码跑出的结果

>   搞的不知道什么时候停止了。这个表现就很不理想了。 请问model.generate()的配置参数是什么

>   搞的不知道什么时候停止了。这个表现就很不理想了。 您可参考最新的代码

>   搞的不知道什么时候停止了。这个表现就很不理想了。 您可参考最新的代码

>  1. 您可参考最新的代码 2. decapoda-research/llama-7b-hf并非facebook官方的LLaMA权重，这个模型的tokenizer与facebook的官方LLaMA模型有出入

你的gcc版本太老了吧，是在我们提供的docker环境内运行的嘛

> Compile quant_cuda error. > > System: Ubuntu 16.04 gcc: 5.4.0 我们已经提供了Docker镜像，您可直接pull下来，在镜像里运行。

> 您运行的是哪个脚本

> 如果把transformers版本降低为4.28.1试下呢

> 我们已经更新了LoRA训练的代码。