Memory Network----------李宏毅视频笔记

1.Attention model 2.memory network model (1)做attention的vector和提取information的vector是不一样的两组(用不同的DNN一起训练得到) (2)可以做hopping这件事：就是把得到的Extracted Information回过来再与Query做summation后继续再算新的attention scores(原始的做的工作

>>阅读原文<<