P-tuning-v2 分类任务上p-tuning v2效果不如p-tuning v1？

分类任务上p-tuning v2效果不如p-tuning v1？

Open Sauloo-huen opened this issue 2 years ago • 4 comments

您好，我在一个中文五分类数据集上分别使用p-tuning v1的方法和p-tuning v2的方法进行训练，超参数是一样的，但结果差异很大。在p-tuning v1 上准确率能到达八十多，但在p-tuning v2 上只能到达三十多。请问可能是什么原因呢？

Jan 17 '23 17:01 Sauloo-huen

请问您最后问题解决了吗？我在p-tuning v2的测试结果也不是很好

Apr 06 '23 06:04 rer-coder

请问您最后问题解决了吗？我在p-tuning v2的测试结果也不是很好

没有，可以试试不冻结参数，所有参数一起训练。

Apr 14 '23 06:04 Sauloo-huen

分类任务上，准确率epoch增加，准确率反而下载，且不收敛。

Jun 26 '23 10:06 chengturbo

分类任务上，准确率epoch增加，准确率反而下载，且不收敛。

请问你后面解决了吗

Jan 06 '24 11:01 PittsAi