External-Attention-pytorch icon indicating copy to clipboard operation
External-Attention-pytorch copied to clipboard

Published 20 hours ago • verified publisher icon xmu-xiaoma666

PSA问题

Open mcjqwer opened this issue 3 years ago • 7 comments

PSA的代码好像是对原特征图四种尺度卷积形成四部分特征图再拼接吧？看知乎说是划分四部分再卷积拼接

mcjqwer avatar Jul 14 '21 15:07 mcjqwer

是这个‘Pyramid Split Attention’ PSA吗？ 这个是将输入特征图按通道平均分成S组，对每组分别进行卷积的

ALmagical avatar Jul 16 '21 08:07 ALmagical

1.原文确实对SPC中的卷积进行了分组操作 2.小马哥的PSA模型会出现就地操作的报错，需要调整一下才能运行。

lisongquan95 avatar Sep 05 '22 03:09 lisongquan95

1.原文确实对SPC中的卷积进行了分组操作 2.小马哥的PSA模型会出现就地操作的报错，需要调整一下才能运行。

大佬，具体怎么解决呀？使用PSA.py时会报错 RuntimeError: Input type (torch.cuda.FloatTensor) and weight type (torch.FloatTensor) should be the same, .cuda了还是一样的错

nlper01 avatar Sep 12 '22 11:09 nlper01

说明输入数据在GPU中，模型在CPU中。找到模型权值，放进Cuda就好了

lisongquan95 avatar Sep 13 '22 01:09 lisongquan95

说明输入数据在GPU中，模型在CPU中。找到模型权值，放进Cuda就好了

这个问题我解决了，就地操作问题怎么解决呀

nlper01 avatar Sep 13 '22 07:09 nlper01

直接用原文给的源代码实现方式就好。

lisongquan95 avatar Sep 14 '22 08:09 lisongquan95

PSA里面的channel 和 reduction是啥

Lijinxisa avatar Mar 08 '23 16:03 Lijinxisa