序列模型笔记

EOS标记可以添加到训练集每一个句子的结尾。 计算机对于自然语言的理解只能通过把文本转化为向量、矩阵的形式，通过计算来获取有用的信息，词嵌入应运而生。 词嵌入（WordEmbedding）的目的在于把某个词语、短语映射到高维空间，让相同、相近含义的字词在空间距离上距离相近 RNN的每一个神经元的softmax的输出就是词典的大小，每个词都有对应的概率。 下面是RNN从左到右依次预测每个词的过程。

>>阅读原文<<