经典回顾:NNLM模型

目录 简介 动机 连续空间编码 模型 变量解释: 目标函数: 预测过程: 简介 NNLM模型是一种语言模型,即给定语料库后,向模型输入前n个单词,模型输出可能性最大的第n+1单词。 动机 尽管N-gram语言模型已经在多种任务中取得了不错的效果,N-gram是考虑到语料库中存在连续的单词段进行概率的计算,这就不可避免的会遇到一个无法解决的问题:当输入的句子中存在没有在语料库出现的单词段,就会导致最
相关文章
相关标签/搜索