UniMatch icon indicating copy to clipboard operation
UniMatch copied to clipboard

Published 20 hours ago • verified publisher icon LiheYoung

关于在Transformer系列模型使用

Open Wenlve-Zhou opened this issue 1 year ago • 2 comments

您好，十分感谢你们出色的工作。FixMatch可以用在不同的模型，包括CNN或者Transformer。当我把UniMatch直接用在Transformer系列的模型时，例如Segformer，发现增益不明显。我想咨询你们是否有过类似的探索，可否分享一下，谢谢！

Wenlve-Zhou avatar Mar 04 '24 04:03 Wenlve-Zhou

我们有过一些探索，发现换成SegFormer后提升还是非常显著的。

LiheYoung avatar May 27 '24 08:05 LiheYoung

在plain vit结构上的结果好像没有其他方法提升明显

zdk258 avatar May 31 '24 02:05 zdk258