MORAN_v2 icon indicating copy to clipboard operation
MORAN_v2 copied to clipboard

Published 20 hours ago • verified publisher icon Canjie-Luo

关于注意力机制初始状态的问题

Open JingyeChen opened this issue 4 years ago • 1 comments

请问一下~在代码里面我看到您的注意力模型初始状态是全0

hidden = Variable(torch.zeros(nB,hidden_size).type_as(feats.data)) (asrn_res.py 106行)

注意力模型作为一个解码器，那么初始状态是不是应该设定为编码器的末状态呢 （不过我用全0初始状态跑代码，效果也挺棒的233）

JingyeChen avatar Mar 26 '20 02:03 JingyeChen

理论上都是可以的，您可以试一试～

Canjie-Luo avatar Apr 16 '20 02:04 Canjie-Luo