首页 流程图 详情

atten

2021-11-02 11:40:27 0 举报
仅支持查看
dwadas
用户运营
作者其他创作
大纲/内容
u+q
转置
+
矩阵相乘
(AC+BD)*scale
rel_shift
densedim = -1:n*d->3*n*d
可学习v：n*d
softmax
split0
split2
BD
k
dropout
(u+q)^T*abs
out
densedim=-1n*d->n*d
可学习u：n*d
(u+q)^T*k
word emb
abs position emb
split1
v
q
v+q
AC
评论
0 条评论
下一页
为你推荐
查看更多
抱歉，暂无相关内容