论文笔记:LSTM, GRU, Highway and a Bit of Attention: An Empirical Overview for Language Modeling in Speec

感想 本文主要比较了LSTM,GRU,Highway,attention模型在语音识别上的语言模型的优劣,总体而言LSTM还是占优势的,attention虽然新颖,但是实验结果不是很好,但是在以后的研究中还是值得借鉴的,本文公式比较复杂,需要有一定RNN基础才能理解。 1、 介绍 语言模型是自动语音识别中的一个关键组件,这其中包括出现的端到端的系统,结合两种互补的方法,基于统计的n-fram和基于
相关文章
相关标签/搜索