PASSL
PASSL copied to clipboard
PASSL包含 SimCLR,MoCo v1/v2,BYOL,CLIP,PixPro,simsiam, SwAV, BEiT,MAE 等图像自监督算法以及 Vision Transformer,DEiT,Swin Transformer,CvT,T2T-ViT,MLP-Mixer,XCiT,ConvNeXt,PVTv2 等基础视觉...
如题,为什么不直接调用nn.LayerNorm?
https://github.com/PaddlePaddle/PASSL/blob/83c49e6a5ba3444cee7f054122559d7759152764/passl/modeling/backbones/clip.py#L317 check this issue for reference https://github.com/PaddlePaddle/Paddle/issues/43710 Suggested approach (with non-public API) ``` logit_scale_buffer = self.logit_scale.clip(-4.6, 4.6) logit_scale_buffer._share_buffer_to(self.logit_scale) ```
将passal中训练好的权重直接转为paddleclas可以使用的权重,直接令passal和paddleclas权重中的keys对应(去掉两个fc层)就可以直接将模型相互转换
在配置文件PASSL/configs/beit/beit_base_p16_224.yaml中,head的名字,BeitClsHead应该为:BEiTClsHead 。 另外格式也有问题,会报错,需要小修改。大约是第17句的缩进不对。
### PR types New features ### PR changes APIs ### Describe * Task: https://github.com/PaddlePaddle/Paddle/issues/41482 * 添加 passl.model.architectures.dino ### Peformance | Model | Official | Passl | | ---- | ----...
add simclr clas config
- support accumulate gradient
数据准备的脚本不是特别看得懂,我如何准备自己的数据集?训练集理论上是不用标签的是吧?