深度学习(二十四)——L2 Normalization, Attention(1)

L2 Normalization L2 Normalization本身并不复杂,然而多数资料都只提到1维的L2 Normalization的计算公式: x=[x1,x2,…,xd]y=[y1,y2,…,yd]y=x∑di=1x2i‾‾‾‾‾‾‾√=xxTx‾‾‾‾√ x = [ x 1 , x 2 , … , x d ] y = [ y 1 , y 2 , … , y d ] y = x ∑ i
相关文章
相关标签/搜索