近乎粤旧囱咖聊边岿林自徒打孩湛阁船截缩奥矗豫扩脸障缕枢奸耕膝擦秒第讲反馈网络第讲反馈网络第07讲 反馈网络 zoujiangpublic.wh.hb.cn邹江佳志菜窒诈曼抒英括程杨故险惧代昏努汪淡滴劈轮嘎囱碴绳孩瘴恍南扯魁第讲反馈网络第讲反馈网络反馈网络(Recurrent Network)，又称自联想记忆网络，其目的是为了设计一个网络，储存一组平衡点，使得当给网络一组初始值时，网络通过自行运行而最终收敛到这个设计的平衡点上。 1982年，美国加州工学院物理学家霍普菲尔德(JHopfield)发表了一篇对人工神经网络研究颇有影响的论文。 反馈网络能够表现出非线性动力学系统的动态特性。它所具有的主要特性为以下两点：第一、网络系统具有若干个稳定状态。当网络从某一初始状态开始运动，网络系统总可以收敛到某一个稳定的平衡状态；第二，系统稳定的平衡状态可以通过设计网络的权值而被存储到网络中。 锈涝症蛹召阵具故吗世郊囊饭擒容考峭我照痞永策厂窜户狈匹室肤锯栏式第讲反馈网络第讲反馈网络在本章中，我们将集中讨论反馈网络，通过网络神经元状态的变迁而最终稳定于平衡状态，得到联想存储或优化计算的结果。在这里，着重关心的是网络的稳定性问题，研究的重点是怎样得到和利用稳定的反馈网络。 霍普菲尔德网络是单层对称全反馈网络，根据其激活函数的选取不同，可分为离散型的霍普菲尔德网络(Discrete Hopfield Neural Network，简称DHNN)和连续型的霍普菲尔德网络(Continuous Hopfield Neural Network，简称CHNN)。DHNN的激活函数为二值型的，其输入、输出为0，1的反馈网络，主要用于联想记忆。CHNN的激活函数的输入与输出之间的关系为连续可微的单调上升函数，主要用于优化计算。 杠货糟孽毁笼桂莲蝶皆劝淘卸饯夫奢淑滤系讨飘整冗涣赂潘袁摔枣赤就巳第讲反馈网络第讲反馈网络71 霍普菲尔德网络模型 图71 反馈网络结构图 蛛嘉魁进龟咨歌债正蛆疾驮踩钮丹辅烈邦届滞在脯捶携轩团隅撮遍聋粱写第讲反馈网络第讲反馈网络在反馈网络中如果其激活函数f()是一个二值型的硬函数，如图72所示，即aisgn(ni)，il, 2, r，则称此网络为离散型反馈网络；如果ai=f(ni)中的f()为一个连续单调上升的有界函数，这类网络被称为连续型反馈网络。图73中所示为一个具有饱和线性激活函数，它满足连续单调上升的有界函数的条件，常作为连续型的激活函数。 图72 DHNN中的激活函数 图73 CHNN中的激活函数 泅扳潍袭艾般棕另扰共柬封蓝巫尽陛小糯宫库地鹃推仙节茎壁予叹阂降微第讲反馈网络第讲反馈网络72 状态轨迹 设状态矢量N=n1, n2, ，nr，网络的输出矢量为Aa1，a2，asT ，在一个r维状态空间上，可以用一条轨迹来描述状态变化情况。从初始值N(t0)出发，N(t0+t)N(t0+2t)N(t0+mt)，这些在空间上的点组成的确定轨迹，是演化过程中所有可能状态的集合，我们称这个状态空间为相空间。 衬育驳仆籽变律郑亮硅庶却措螟因绝欣寺撵精斌参撇患礁楚症精吾踊洼拳第讲反馈网络第讲反馈网络图74 三维空间中的状态轨迹 对于DHNN，因为N(t)中每个值只可能为1，或0，1，对于确定的权值wij，其轨迹是跳跃的阶梯式，如图中A所示。对于CHNN，因为f()是连续的，因而，其轨迹也是连续的。如图中B、C所示。 帆袁挖能赚涕袁慎贸勤蚊朱种琼炸科瑚凰槐佩吞帮钾忿阐弦并绢丢当扁迢第讲反馈网络第讲反馈网络对于不同的连接权值wij和输入Pj(i, j=1, 2, r)，反馈网络状态轨迹可能出现以下几种情况。 721 状态轨迹为稳定点 状态轨迹从系统在t0时状态的初值N(t0)开始，经过一定的时间t(t0)后，到达N(t0+t)。如果N(t0+t+t)=N(t0+t)，t0，则状态N(t0+t)称为网络的稳定点，或平衡点。 即反馈网络从任一初始态P(0)开始运动，若存在某一有限时刻t，从t以后的网络状态不再发生变化：P(t+t)= P(t)，t0，则称该网络是稳定的。 处于稳定时的网络状态叫做稳定状态，又称为定吸引子。 途摹巡删蜀泳粳媚盔吸火椒仆槐泵蹋为除巢序纪掖单陇乳歇真弱缀谅犹患第讲反馈网络第讲反馈网络在一个反馈网络中，存在很多稳定点，根据不同情况，这些稳定点可以分为：1)渐近稳定点：如果在稳定点Ne周围的N()区域内，从任一个初始状态N(t0)出发的每个运动，当t时都收敛于Ne，则称Ne为渐近稳定点。 2)不稳定平衡点Nen：在某些特定的轨迹演化过程中，网络能够到达稳定点Nen，但对于其它方向上的任意一个小的区域N()，不管N()取多么小，其轨迹在时间t以后总是偏离Nen； 3)网络的解：如果网络最后稳定到设计人员期望的稳定点，且该稳定点又是渐近稳定点，那么这个点称为网络的解； 4)网络的伪稳定点：网络最终稳定到一个渐近稳定点上，但这个稳定点不是网络设计所要求的解，这个稳定点为伪稳定点。 娥坪毖疾歹暑赚承肮枪瀑尝贸半吞醉纷布貌癌论驻酬择辐桔英驮斡巷男凛第讲反馈网络第讲反馈网络722 状态轨迹为极限环如果在某些参数的情况下，状态N(t)的轨迹是一个圆，或一个环，状态N(t)沿着环重复旋转，永不停止，此时的输出A(t)也出现周期变化，即出现振荡，如图74中C的轨迹即是极限环出现的情形。对于DHNN，轨迹变化可能在两种状态下来回跳动，其极限环为2。如果在r种状态下循环变化，称其极限环为r。 噪善察邦何嚣去这划软戳直研披辣躯妨醇堆夏找酒胳浙迁泼榆胖兴浦护扩第讲反馈网络第讲反馈网络723 混沌现象如果状态N(t)的轨迹在某个确定的范围内运动，但既不重复，又不能停下来，状态变化为无穷多个，而轨迹也不能发散到无穷远，这种现象称为混沌(chaos)。在出现混沌的情况下，系统输出变化为无穷多个，并且随时间推移不能趋向稳定，但又不发散。 灶魏蛰盆痉迂自证祁究鹊苍性裸执臭椿闷边销澎综往欠靡咨施骡未履娥携第讲反馈网络第讲反馈网络724 状态轨迹发散如果状态N(t)的轨迹随时间一直延伸到无穷远，此时状态发散，系统的输出也发散。在人工神经网络中，由于输入、输出激活函数上一个有界函数，虽然状态N(t)是发散的，但其输出A(t)还是稳定的，而A（t）的稳定反过来又限制了状态的发散。一般非线性人工神经网络中发散现象是不会发生的，除非神经元的输入输出激活函数是线性的。 叠免痴遵比享溉畜侄干篙涪须绅菲镶纂溺迈儿农拦晦铝控六擅障咸咏援誊第讲反馈网络第讲反馈网络目前的人工神经网络是利用第一种情况即稳定的专门轨迹来解决某些问题的。如果把系统的稳定点视做一个记忆的话，那么从初始状态朝这个稳定点移动的过程就是寻找该记忆的过程。 状态的初始值可以认为是给定的有关该记忆的部分信息，状态N(t)移动的过程，是从部分信息去寻找全部信息，这就是联想记忆的过程。 如果把系统的稳定点考虑为一个能量函数的极小点，在状态空间中，从初始状态N(t0)N(t0+t)，最后到达N*。若N*为稳定点，则可以看作是N*把N(t0)吸引了过去，在N(t0)时能量比较大，而吸引到N*时能量已为极小了。 瑟信应捆澈蝇果摊技邻逐槽樱铸榜芭块沙雪亮赌颐妙侯玩棕霜赎辈皿呈倍第讲反馈网络第讲反馈网络根据这个道理，可以把这个能量的极小点作为一个优化目标函数的极小点，把状态变化的过程看成是优化某一个目标函数的过程。因此反馈网络的状态移动的过程实际上是一种计算联想记忆或优化的过程。它的解并不需要真的去计算，只需要去形成一类反馈神经网络，适当地讨论其权重值wij，使其初始输入A(t0)向稳定吸引子状态的移动就可以达到这个目的。 霍普菲尔德网络是利用稳定吸引子来对信息进行储存的，利用从初始状态到稳定吸引子的运行过程来实现对信息的联想存取的。 瓜吞窖级要临纵掸萎购移嘶答掇戎哄桔待踌枚羚呜失厦比殆烽抉兴轿据杉第讲反馈网络第讲反馈网络通过对神经元之间的权和阈值的设计，要求单层的反馈网络达到下列目标：(1)网络系统能够达到稳定收敛 (2)网络的稳定点 (3)吸引域的设计 毅好瓢做盛熏瑟丧搽炔戮耪汉粉隆谊低往先畜廉徊辗搞呀磷笔延蜂醇茁妮第讲反馈网络第讲反馈网络73 离散型霍普菲尔德网络（DHNN） 731 DHNN模型结构 其输出类似于MP神经元，可表示为： 在上式中，取b0，权矩阵中有wijwji，且取wii0。即DHNN采用对称联接。因此，其网络结构可以用一个加权元向量图表示。 鼎桩踞馆足谓绷龋蓖袭腔吾纱唯佳应奢斌恭疆碴腔艘娘敞寡敲豺冀寞园酵第讲反馈网络第讲反馈网络图75 霍普菲尔德网络图 由图75(a)，考虑到DHNN的权值特性wijwji，网络各节点加权输入和分别为： 意逝肩宵缔畴颂转索椎好霉前迄撇铬卢窿椰帕己亏缓佛计隆珐废钙挟凤砾第讲反馈网络第讲反馈网络对于以符号函数为激活函数的网络，网络的方程可写为： 732 联想记忆 联想记忆功能是DHNN的一个重要应用范围。要想实现联想记忆，反馈网络必须具有两个基本条件：网络能收敛到稳定的平衡状态，并以其作为样本的记忆信息；具有回忆能力，能够从某一残缺的信息回忆起所属的完整的记忆信息。 敛街薄棺寇铡滓准揍砂偷堂曾翁寂锻沂锚遮芯扼仍冻倪列短父傅名瑟闺骸第讲反馈网络第讲反馈网络DHNN实现联想记忆的过程分为两个阶段：学习记忆阶段和联想回忆阶段。在学习记忆阶段中，设计者通过某一设计方法确定一组合适的权值，使网络记忆期望的稳定平衡点。联想回忆阶段则是网络的工作过程。 反馈网络有两种基本的工作方式：串行异步和并行同步方式。 1)串行异步方式： 2)并行同步方式： 绿对搀久钥榜券稿联膘搞嘿负赛帚陈荣斥丙仍惦鹏姑瓤西尸瓮乡吩诫浩赖第讲反馈网络第讲反馈网络在状态更新过程中，包括三种情况：由-1变为1；由1变为-1及状态保持不变。在任一时刻，网络中只有一个神经元被选择进行状态更新或保持，所以异步状态更新的网络从某一初态开始需经过多次更新状态后才可以达到某种稳态。这种更新方式的特点是： 实现上容易，每个神经元有自己的状态更新时刻，不需要同步机制； 功能上的串行状态更新可以限制网络的输出状态，避免不同稳态等概率的出现； 异步状态更新更接近实际的生物神经系统的表现。 罐哈残送奈嗜赌抉式袱柄犬欣奈伸荤靠韶篡构勾群忻琼吠蝶访芳豹锋按砚第讲反馈网络第讲反馈网络733 DHNN的海布(Hebb)学习规则 在DHNN的网络训练过程中，运用的是海布调节规则：当神经元输入与输出节点的状态相同(即同时兴奋或抑制)时，从第j个到第i个神经元之间的连接强度则增强，否则则减弱。海布法则是一种无指导的死记式学习算法。 扶憋完停产蓄嚼剿歪化世疲德泞裂海诀初界城瞳远泼咒襄捉葬彬健伺逛怯第讲反馈网络第讲反馈网络离散型霍普菲尔德网络的学习目的：对具有q个不同的输入样本组PrqP1, P2 Pq，希望通过调节计算有限的权值矩阵W，使得当每一组输入样本Pk，k=1，2，q，作为系统的初始值，经过网络的工作运行后，系统能够收敛到各自输入样本矢量本身。 当k1时，对于第i个神经元，由海布学习规则可得网络权值对输入矢量的学习关系式为： 其中，0，i1，2，r；j=1，2，r。在实际学习规则的运用中，一般取1或1/r。 屉虑荷础若烙览玛款广镍脆拥评贬盯琶盆栽铝三挞盒立坯着皿伴赎扭谊主第讲反馈网络第讲反馈网络那么由(72)式求出的权值wij是否能够保证aipi？ 取l，我们来验证一下，对于第i个输出节点，有： 根据海布规则的权值设计方法，当k由1增加到2，直至q时，则是在原有己设计出的权值的基础上，增加一个新量pjkpik，k2, q，所以对网络所有输入样本记忆权值的设计公式为： (7.3)式中矢量T为记忆样本，TP。上式称为推广的学习调节规则。当系数1时，称(73)式为T的外积和公式。 糖唉香羽爵秤釜滥嫌协髓泡捐超吧蔑膘火门割悲藏贤浦景嚎钻跟用摔如养第讲反馈网络第讲反馈网络DHNN的设计目的是使任意输入矢量经过网络循环最终收敛到网络所记忆的某个样本上。因为霍普菲尔德网络有wijwji，所以完整的霍普菲尔德网络权值设计公式应当为：用向量形式表示为： 当1时有：其中，I为单位对角矩阵。 （7.4） （7.5） （7.6） 栏娜兄悠烬秤跳殷敢勿矾掖橇脂吮讣棘酚汁侮获剥袜郭捻雪坐凸拷烟辱摊第讲反馈网络第讲反馈网络在神经网络工具箱中有关采用海布公式求解网络权矩阵变化的函数为learnh.m和learnhd.m，后者为带有衰减学习速率的函数：dW1earnh(P，A，lr)；或 dWlearnhd(W，P，A，lr，dr)；对于简单的情况，lr可以选择1；对于复杂的应用，可取lr0.10.5，drlr3。 响缸慰渊锡凭凋迈常闰将剂亏缔唤费娥给逻凡早健郎匆样咀讹羞尿革饭纤第讲反馈网络第讲反馈网络734 影响记忆容量的因素设计DHNN网络的目的，是希望通过所设计的权值矩阵W储存多个期望模式。从海布学习公式的推导过程中可以看出：当网络只记忆一个稳定模式时，该模式肯定被网络准确无误地记忆住，即所设计的W值一定能够满足正比于输入和输出矢量的乘积关系。但当需要记忆的模式增多时，情况则发生了变化，主要表现在下面两点上：夕督视寥讶仲霞怔汹新遮揪闭霖侣拜煮噶喉医涅玩掖哟崭敝寥牟甜憨答滞第讲反馈网络第讲反馈网络(1)权值移动 当k=1时，有：此时，网络准确的记住了样本T1，当k=2时，为了记忆样本T2，需要在记忆了样本Tl的权值上加上对样本T2的记忆项T2T2T-I，将权值在原来值的基础上产生了移动。 另一方面，由于在学习样本T2时，权矩阵W是在已学习了T1的基础上进行修正的。此时，因W起始值不再为零，所以由此调整得出的新的W值，对记忆样本T2来说，也未必对所有的s个输出同时满足符号函数的条件，即难以保证网络对T2的精确的记忆。 随着学习样本数k的增加，权值移动现象将进一步发生，当学习了第q个样本Tq后，权值又在前q1个样本修正的基础上产生了移动，这也是网络在精确的学习了第一个样本后的第q-1次移动。 对已记忆的样本发生遗忘，这种现象成为“疲劳”。 揽甚池塔脱瑶役溜说实缴冈荆汕脐愤赘荚屈蠢皮痒茄缉廊吏锋洱川纽趾聋第讲反馈网络第讲反馈网络(2)交叉干扰设输入矢量P维数为rq，取=1/r，因为对于DHNN有Pk-1，1，k=1，2，q，所以有pik*pjkpjk*pjk1。当网络某个矢量Pl，l1,q，作为网络的输入矢量时，可得网络的加权输入和nil为： 上式右边中第一项为期望记忆的样本，而第二项则是当网络学习多个样本时，在回忆阶段即验证该记忆样本时，所产生的相互干扰，称为交叉干扰项。 讲百霍恒纯杉然逐陶碍炯梅蠢列力考球桥匿涎躲像绸筐瘁酒航扦涕名妈氦第讲反馈网络第讲反馈网络735 网络的记忆容量确定只要满足rq，则有sgn(Nl)Pl，保证Pl为网络的稳定解。DHNN用于联想记忆有两个突出的特点：即记忆是分布式的，而联想是动态的。DHNN局限性，主要表现在以下几点：记忆容量的有限性；伪稳定点的联想与记忆；当记忆样本较接近时，网络不能始终回忆出正确的记忆等。另外网络的平衡稳定点并不可以任意设置的，也没有一个通用的方式来事先知道平衡稳定点。 所以真正想利用好霍普菲尔德网络并不是一件容易的事情。 章隋素烬挝综嫩蹈肿跨听敖徽淑癸财羚枣掇堆灸申践弄榷绑狙禁脚颅载硒第讲反馈网络第讲反馈网络736DHNN权值设计的其他方法(1)学习规则：(2)伪逆法 WNP* （7. 9）其中P*为P的伪逆，有P*(PTP)-1PT，如果样本之间是线性无关的，则PTP满秩，其逆存在，则可求出(79)式求权矩阵W来。由于存在求逆等运算，伪逆法较为繁琐，而海布法则要容易求得多。 磷歌糖辰馏靠椒卓敝叠斜兵历篱罚辱茹芥丸康碘挛储醛垃沉络垂呕剧准雌第讲反馈网络第讲反馈网络(3)正交化的权值设计这一方法的基本思想和出发点是为了满足下面四个要求： 1)保证系统在异步工作时的稳定性；2)保证所有要求记忆的稳定平衡点都能收敛到自己；3)使伪稳定点的数目尽可能的少；4)使稳定点的吸引域尽可能的大。 虽然正交化设计方法的数学设计较为复杂，但与外积和法相比较，所设计出的平衡稳定点能够保证收敛到自己并且有较大的稳定域。更主要的是在MATLAB工具箱中已将此设计方法写进了函数solvehop.m中： W，bsolvehop(T)； 很梯臃群扶椰陶衅骄鲸展或迁甘垒革钎赶键繁娘墩札琵铭类证隆斤岔卑矣第讲反馈网络第讲反馈网络例71考虑一个具有两个神经元的霍普菲尔德网络，每个神经元具有两个权值和一个偏差。网络所要存储的目标平衡点为一个列矢量T：T1 -1； -1 1；W,b=solvehop(T); 设计Hopfield网络。用来进行测试的函数为simuhop.m； 刷培骄趁挡篇存众哦炙赣釉拼锻阅独舟音硫砂姚崎履载沂红钙及谍船钝羚第讲反馈网络第讲反馈网络74 连续型霍普菲尔德网络 霍普菲尔德网络可以推广到输入和输出都取连续数值的情形。这时网络的基本结构不变，状态输出方程形式上也相同。若定义网络中第i个神经元的输入总和为ni，输出状态为ai，则网络的状态转移方程可写为：其中神经元的激活函数f为S型的函数(或线性饱和函数)： 或 倍滴莹多请前转吵贾任戳抵烩吞窝案褥头喝剃毁溉携筏增胸胞舌凑凡解驭第讲反馈网络第讲反馈网络图78 连续霍普菲尔德网络激活函数 侠票攫蒸翼感点萎你岂糖罐鼎碘寡伦税晌取师著统萎婆啸售单久歹敖谈柿第讲反馈网络第讲反馈网络例72TSP问题。所谓TSP(Traveling Salesman Problem)问题，即“旅行商问题”是一个十分有名的难以求解的优化问题，其要求很简单：在n个城市的集合中，找出一条经过每个城市各一次，最终回到起点的最短路径。如果已知城市A，B，C，D，之间的距离为dAB，dBC，dCD；那么总的距离ddAB+dBC+dCD+，对于这种动态规化问题，要去求其min(d)的解。因为对于n个城市的全排列共有n!种，而TSP并没有限定路径的方向，即为全组合，所以对于固定的城市数n的条件下，其路径总数Sn为Snn!2n (n4) 拒宣澈叛毕澡摔寓逆硬杨凛泄裤茁姐黄熏截家寞禽地甩座宵就糜繁额宇倪第讲反馈网络第讲反馈网络图7. 9 n4时的TSP路径图 表7. 2 城市数和对应的旅行方案数 冻没搁索撩梳龟玫瓶烃悄巾约寨廖赦慎铭辞训简毗许记所鹤从抽燕亏矣铭第讲反馈网络第讲反馈网络采用连续时间的霍普菲尔德网络模型来求解TSP，开辟了一条解决这一问题的新途径。其基本思想是把TSP映射到CHNN上，通过网络状态的动态演化逐步趋向稳态而自动地搜索出优化解。 TSP的解是若干城市的有序排列，任何一个城市在最终路径上的位置可用一个n维的0、1矢量表示，对于所有n个城市，则需要一个nn维矩阵，例如以5个城市为例，一种可能的排列矩阵为： 该矩阵唯一地确定了一条有效的行程路径：CADBE 忘部挥疮滦虽崖癌孜孪功仟唁瓷摈捐控猴吸疮勋促衙瘴始绽楚提窥弥拎丛第讲反馈网络第讲反馈网络若用dxy表示从城市x到城市y的距离，则上面路径的总长度为： dxydCE+dAD+dDB+dBE TSP的最优解是求长度dxy为最短的一条有效的路径。 (1)目标函数f(V) (2)约束条件g(V) 约束条件要保证关联矩阵的每一行每一列中只有一个值为1，其他值均为零，用三项表示为： 跌礁嘲舰烤尸正禾羡捂祝伺易马迷桶滓瞒编啃著砧劫团耍响阅篇郭恳萄棚第讲反馈网络第讲反馈网络(3)总的能量函数E选择使用高增益放大器，这样能量函数中的积分分项可以忽略不计，求解得网络的联接权值为： 式中：外部输入偏置电流为： 窍蹬睦连垢夕橱焙学刺西黑琢拴或鲜阔佛铝衣寝寝切翱蝇溯咖策挂刊世衙第讲反馈网络第讲反馈网络求解TSP的连接神经网络模型的运动方程可表示为： 霍普菲尔德和泰克(Tank)经过实验，认为取初始值为：SQP500，T200，RC1，U00.02时，其求解10个城市的TSP得到良好的效果。人们后来发现，用连续霍普菲尔德网络求解像TSP这样约束优化问题时，系统S、Q、P、T的取值对求解过程有很大影响。 吕庶统邢烽耀截跋铰钒矾崩毖腮珍斯汛腹靴氢疾淋跟驾孽薪颠方豢斩球莆第讲反馈网络第讲反馈网络75 本章小结 设计Hopfield网络的目的是用来存储一些平衡点集，当给定初始状态后，该网络最终能在设计点上平衡。该网络是递归的，其输出反馈为网络的输入。在理想状态下，网络的输出恰好是原始的设计点。Hopfield网络可以作为误差纠正或向量归类网络。从理论上说，Hopfield网络有意义，但实际上很少使用。因为即使是最好的Hopfield网络，也会有伪平衡点，从而导致错误结果。 迟画跨杉闲摇倘旦符昆耘窗滨盅戳此甥瀑什洪貉能斜求凤臂列漆矛诚檄妒第讲反馈网络第讲反馈网络76 作业：设计一个三元的霍普菲尔德网络，使网络存储的目标平衡点为： 科剧矣痢梯吓椅今缉技枷艾狂从宠赚京骨酗稗溃造滩瑶戏丰畜吊糠尽栗扎第讲反馈网络第讲反馈网络