《动手学深度学习》第二十四天---语言模型,循环神经网络

(一)语言模型 给定一个长度为T的词的序列w1,w2,…,wT,语言模型将计算该序列几率:P(w1,w2,…,wT)。语言模型(language model)可用于提高语音识别和机器翻译的性能,根据序列的几率选择输出的序列。 例如,一段含有4个词的文本序列的几率 其中,P(w1)能够计算为w1在训练数据集中的词频(词出现的次数)与训练数据集的总词数之比。P(w2∣w1)能够计算为w1,w2两词相邻
相关文章
相关标签/搜索