机器学习与深度学习系列连载: 第二部分 深度学习(二十一) Beam Search

Beam Search 由于在NLP中Vocabulary的量非常大,Test过程中选择结果序列是一件非常头疼的事情。 如果每一步都用最大概率去选择不一定得到最好的而结果。 1. Beam Search算法来源 我们还是以NLP产生字母为例: 请看下图: 如果按照最大概率去选,选择红色的箭头路线,其实没有绿色箭头路线总的结果好。 2. Beam Search算法 一般的,我们每次取概率最大的k条路
相关文章
相关标签/搜索