lmft

lmft copied to clipboard

RuntimeError: No executable batch size found, reached zero.

1

大佬 运行 你的 代码 ` $ python training_chatglm_csc_demo.py --do_train ` 出现 如下错误： ` RuntimeError: No executable batch size found, reached zero. ` 请问是什么问题呢？

km1994

lora微调版本只能在chatglm-6b基础上使用吗，4位量化模型或8位量化，加载会报错

1

lora微调版本只能在chatglm-6b基础上使用吗，4位量化模型或8位量化，加载会报错

liuyunrui123

使用lora方式微调，是否对模型原先回答能力造成混乱，以及多轮对话造成影响呢。

2

huangding1535

如何开启多卡训练？

2

Zarc98

对Finetune后的效果有点疑问

11

想请问下作者公开的参数是训练了几个epoch的呀？ 感觉很奇怪，Finetune后回答格式会出现多个回车的情况，随便测了几个，感觉回答的也不是很好。 想请问各位大佬，这种情况是因为Lora的能力不足？还是说通过加数据Finetune的方案无法让语言模型学到知识呢？ 原回答：   Finetune后的回答：  

CoderAnn

RuntimeError: Tensors must have same number of dimensions: got 4 and 2

1

推理阶段出现这个

zbbwss

P-tuning方法训练完以后模型直接没用了。

3

P-tuning 方法，训练后，完全无法使用。 直接，你的训练完以后还能正常聊天吗。

dragononly