论文笔记《Gated-Attention Readers for Text Comprehension》

来源1606.01549 这篇论文提出的模型叫做GA Reader,用的是GRU,GRU中的两个门及候选状态的推理公式如下: GA Reader的实现思路为: 1,对于query首先也是用双向GRU处理,然后分别获取最后的状态concate一起。 2,对于doc也是用双向GRU处理,但是是输出每个时刻的Hidden,最后concate在一起。 3,然后用一个K层网络来处理,网络第一层是1,2步处理
相关文章
相关标签/搜索