【学习笔记】连续型 Hopfield 神经网络

在连续型 Hopfield 神经网络中,全部神经元都随时间t 并行更新,网络状态随时间连续改变。微信


1.连续型 Hopfield 神经网络的结构网络


基于模拟电子线路的连续型 CHNN 拓扑结构以下图所示函数


图中电子线路与神经网络之间关系为:运算放大器——神经元;神经元输入——运放输入电压u j ;神经元输出——运放输出电压V j (输出有正向输出V j 和反向输出V j );链接权Wij ——输入端电导;阈值——输入偏置电流 I j 学习


2.连续型 Hopfield 神经网络的结构模型优化



下图为某种神经元 j 的结构图。
人工智能



由基尔霍夫定理可得:spa

3.连续型 Hopfield 神经网络的能量函数与稳定性分析.net


①CHNN 能量函数
设计


f -1-1 函数为神经元转移函数的反 3d


②CHNN 稳定性分析


定理 1 若神经元的转移函数 f 存在反函数(单调连续递增),且有wij=wji  , 则由任意初态开 始 , CHNN 网 络 的 能 量 函 数 总 是 单 调 递 减 的 , 即dE/dt<=0,当且仅当dVj/dt=0时,有dE/dt于是网络最终能达到稳态。


随着状态的演变,网络的能量老是下降的。当网络中全部节点的状态再也不改变时,能量才再也不改变,此时到达能量的某一局部极小点或局部最小,该能量对应着网络的某一稳定状态。


4.Hopfield 网络的主要功能


Hopfield 神经网络的提出就是与其实际应用密切相关。其主要功能在如下两个方面。


① 联想记忆


输入—输出模式的各元素之间,并不存在一对一的映射关系,输入—输出模式的维数也不要求相同;联想记忆时,只给出输入模式部分信息,就能联想出完整的输出模式。即具备容错性。


② CHNN 的优化计算功能



优化计算在实际问题中有普遍的应用。如咱们前面提到的 TSP 问题,工业生产和交通运输中的调度问题等。应用 Hopfield 神经网络来解决优化计算问题的通常步骤为:



(1)分析问题:网络输出与问题的解相对应。
(2)构造网络能量函数:构造合适的网络能量函数,使其最小值对应问题最佳解。
(3)设计网络结构:将能量函数与标准式相比较,定出权矩阵与偏置电流。
(4)由网络结构创建网络的电子线路并运行,稳态——优化解或计算机模拟运行。


Hopfield 递归网络对人工神经网络的发展有重要而特殊的影响。咱们分别对离散型和连续型 Hopfield 神经网络的结构,工做原理及稳定性进行了分析; Hopfield 神经网络与以前介绍的 BP 神经网络相比,在学习方式上,网络权值不是通过反复学习而获取,而是按必定规则进行设计,其权值一经设定就再也不改变;运行过程当中网络各神经元的状态不断更新演变,网络运行达到稳定时各神经元的状态即是问题的解。


本文分享自微信公众号 - AI MOOC人工智能平台(AIMOOC_XLAB)。
若有侵权,请联系 support@oschina.cn 删除。
本文参与“OSC源创计划”,欢迎正在阅读的你也加入,一块儿分享。

相关文章
相关标签/搜索