Magic-NLPer icon indicating copy to clipboard operation
Magic-NLPer copied to clipboard

Published 20 hours ago • verified publisher icon qingyujean
→

Metadata

关于机器学习，深度学习，自然语言处理等各种算法的实现、示例，与博客文章配套，论文复现等

Results 2 Magic-NLPer issues
Sort by recently updated
recently updated
newest added

关于transformer模型的MultiHeadAttention函数

2 comment

你好，在transformer的MultiHeadAttention函数中定义了self.wq、self.wk、self.wv但是在forward里仅用了self.wq来对q、k、v进行线性变换。

CK-IMUT-501 avatar CK-IMUT-501

环境需求DeepLearning/Transformer/MachinTranslation/pytorch

请问一下，这项目需要的环境、库的版本，有什么要求呢，谢谢！

hwhw97 avatar hwhw97

← Metadata

125
Stars
28
Forks
Watchers

Owner

verified publisher icon qingyujean

Metadata

关于机器学习，深度学习，自然语言处理等各种算法的实现、示例，与博客文章配套，论文复现等

Back