Dive-into-DL-PyTorch icon indicating copy to clipboard operation
Dive-into-DL-PyTorch copied to clipboard

关于word2vec我有一个问题就是,我看李沐的视频,他说每个词有两个向量表示,一个是作为中心词时候的向量表示,一个是作为背景词时候的向量表示。在训练的时候这一点要怎么表现出来呢?

Open gggamemaster opened this issue 4 years ago • 1 comments

bug描述 描述一下你遇到的bug, 例如报错位置、报错信息(重要, 可以直接截个图)等

版本信息 pytorch: torchvision: torchtext: ...

gggamemaster avatar Oct 24 '19 12:10 gggamemaster

构造中心词和背景词两个词嵌入层 `embed_size = 100

net = nn.Sequential( nn.Embedding(num_embeddings=len(idx_to_token), embedding_dim=embed_size), nn.Embedding(num_embeddings=len(idx_to_token), embedding_dim=embed_size) )`

catqaq avatar Dec 24 '19 10:12 catqaq