RRHF icon indicating copy to clipboard operation
RRHF copied to clipboard

Published 20 hours ago • verified publisher icon GanjinZero

关于ppl的方差

Open skepsun opened this issue 5 months ago • 1 comments

我在hh数据集上训练模型，并统计ppl，只基于回答计算ppl，发现ppl的方差特别大，一些特别短的回复，比如"270 votes"，ppl可以达到35000多，我看RRHF论文中没有提及ppl的方差，想问一下是否也有类似的情况

skepsun avatar Feb 01 '24 02:02 skepsun