解码之Beam Search算法

解码是seq2seq模型的常见问题,常用方法有贪心搜索(Greedy Search)集束搜索(Beam Search)。 简单贪心搜索 From [1] 如图,Decoder根据Encoder的中间语义编码向量 c c 和<s>标签得到第一个输出的概率分布 [0.1,0.1,0.3,0.4,0.1] [ 0.1 , 0.1 , 0.3 , 0.4 , 0.1 ] ,选择概率最大的0.4,即moi。
相关文章
相关标签/搜索