BERT模型图解
2022-04-22 15:25:13 1 举报
BERT模型图解：由上到下分别是输入、mask细节、训练细节
作者其他创作
大纲/内容
8
T
6
mask(上)
mask(糕)
E
2
预
B
9
蛋糕
10
[SEP]
wordpiece
货
句向量
生
16
1
MLM
pad
蛋
糕
日
[PAD]
P0
C
14
位置向量
送
#订
15
订
7
A
mask(蛋)
mask(#门)
4
预定
cls
NSP任务
mask(门)
sep
13
上门
P6
#日
上
P13
12
5
送货
jieba分词
P9
字向量
P11
3
门
P14
input layer
P5
生日
embedding layer
P15
P4
P2
P1
#糕
#货
BERT
P7
11
[CLS]
P10
P8
P12
P3
P16
0 条评论
回复 删除
下一页
