Continual Learning 经典方法:Memory Aware Synapses (MAS)

1. 顾名思义 Synapses 是神经元的突触,在人脑中负责连接不同神经元结构。Hebb’s rule 表示在脑生理学中,突触连接常常满足 “Fire Together, Wire Together”,即同时被**或者同时失活。所以不同的任务对应潜在的不同突触——不同的记忆,因此选择**或者改变某些神经元突触即可称为 Memory Aware Synapses (MAS)。在基于深度模型的终身学
相关文章
相关标签/搜索