EMO
EMO copied to clipboard
emo_loss 会变成nan
您好,请教一下。 我再qwen 上使用这个loss,进行的是下游任务的微调,原本的loss 是 mle。 使用的是: EMO/language_modeling/gpt2.py 中的emo 。
他在训练的过程中会出现这样的现象:
以及:
请问这个情况大概是为什么?