yilunyou

使用chinese-roberta-large + MTP unlabel zh， 用如下设置进行训练： --num_gpus 8 --per_device_train_batch_size 2400 \ --do_lower_case true \ --learning_rate 1e-5 \ --weight_decay 0.001 \ --warmup_ratio 0.05 \ --temperature 0.02 \ --num_train_epochs 3 \ --train_group_size...