changdazhou

Results 132 comments of changdazhou

刚刚我们确认了一下,这里的作用不是为了增加负样本的loss,而是去筛选出相似度很低的样本作为负样本,增加相似度低的样本的loss权重,以让模型对于负样本会提升更多的关注度

absolut_loss_an > 0说明该负样本的相似度较高。作为负样本,我们更应该关注那些相似度较低的样本 另外,不好意思,相关论文我们没办法提供哈,可以去网上搜一下

请问训练使用的什么数据集呢

看你这边减半了batch_size,相应的learning_rate也要减半哈

这个建议参考官方提供的示例哈,或者你可以把你的配置贴上,我这边看下呢

> python -m paddle.distributed.launch --ips="127.0.0.1" --devices="0,1,2,3,4,5,6,7," tools/train.py -c ppcls/configs/ImageNet/SwinTransformer/SwinTransformer_base_patch4_window7_224.yaml -o Global.use_dali=False -o Global.use_visualdl=True -o Global.output_dir=./output/SwinTransformer_O1_mlu_16chips \ 开启了amp O1了是吗

建议尝试一下PaddleOCR2.7.0试下呢,另外能贴一下报错信息吗