Beam Search

背景:如图1所示,在seq2seq推理过程中,需要通过上下文和上一个预测的单词,来预测下一个词。如果前面的单词是w1,通过上下文和w1可以预测w2,然后再通过w2和上下文预测出w3,这种算法简单快速,能够得到不错的效果,但是这种贪心算法有个问题就是,如果在预测序列中有一个单词预测的不准确,那么它会影响后面所有单词的预测。Beam Search就是在这种背景下产生的,Beam有“束”的意思,Beam
相关文章
相关标签/搜索