人工神经网络及其应用第4讲BP神经网络2003年2月28日1人工神经网络及其应用第4讲BP神经网络一、内容回顾二、BP网络三、网络设计四、改进BP网络五、内容小结内容安排2人工神经网络及其应用第4讲BP神经网络一、内容回顾 感知机自适应线性元件3人工神经网络及其应用第4讲BP神经网络一、内容回顾 感知机感知机简介神经元模型网络结构功能解释学习和训练局限性自适应线性元件4人工神经网络及其应用第4讲BP神经网络一、内容回顾 感知机自适应线性元件Adline简介网络结构网络学习网络训练5人工神经网络及其应用第4讲BP神经网络2.1 BP网络简介2.2 网络模型2.3 学习规则2.4 图形解释2.5 网络训练二、BP网络6人工神经网络及其应用第4讲BP神经网络反向传播网络(Back-Propagation Network，简称BP网络)是将W-H学习规则一般化，对非线性可微分函数进行权值训练的多层网络 权值的调整采用反向传播(Back-propagation）的学习算法它是一种多层前向反馈神经网络，其神经元的变换函数是S型函数输出量为0到1之间的连续量，它可实现从输入到输出的任意的非线性映射2.1 BP网络简介7人工神经网络及其应用第4讲BP神经网络2.1 BP网络简介BP网络主要用于下述方面函数逼近：用输入矢量和相应的输出矢量训练一个网络逼近一个函数模式识别和分类：用一个特定的输出矢量将它与输入矢量联系起来；把输入矢量以所定义的合适方式进行分类；数据压缩：减少输出矢量维数以便于传输或存储具有将强泛化性能：使网络平滑地学习函数，使网络能够合理地响应被训练以外的输入 泛化性能只对被训练的输入输出对最大值范围内的数据有效，即网络具有内插值特性，不具有外插值性。超出最大训练值的输入必将产生大的输出误差8人工神经网络及其应用第4讲BP神经网络2.2 网络模型一个具有r个输入和一个隐含层的神经网络模型结构 9人工神经网络及其应用第4讲BP神经网络2.2 网络模型感知器和自适应线性元件的主要差别在激活函数上：前者是二值型的，后者是线性的BP网络具有一层或多层隐含层，除了在多层网络上与前面已介绍过的模型有不同外，其主要差别也表现在激活函数上。BP网络的激活函数必须是处处可微的，因此它不能采用二值型的阀值函数0，1或符号函数1，1BP网络经常使用的是S型的对数或正切激活函数和线性函数10人工神经网络及其应用第4讲BP神经网络2.2 网络模型BP网络特点输入和输出是并行的模拟量网络的输入输出关系是各层连接的权因子决定，没有固定的算法权因子通过学习信号调节。学习越多，网络越聪明隐含层越多，网络输出精度越高，且个别权因子的损坏不会对网络输出产生大的影响只有当希望对网络的输出进行限制，如限制在0和1之间，那么在输出层应当包含S型激活函数在一般情况下，均是在隐含层采用S型激活函数，而输出层采用线性激活函数11人工神经网络及其应用第4讲BP神经网络2.2 网络模型S型函数具有非线性放大系数功能，可以把输入从负无穷大到正无穷大的信号，变换成-1到l之间输出对较大的输入信号，放大系数较小；而对较小的输入信号，放大系数则较大采用S型激活函数可以处理和逼近非线性输入/输出关系12人工神经网络及其应用第4讲BP神经网络2.3 学习规则BP算法属于算法，是一种监督式的学习算法主要思想对于q个输入学习样本：P1,P2,Pq，已知与其对应的输出样本为：T1,T2,Tq使网络输出层的误差平方和达到最小用网络的实际输出A1,A2,Aq, 与目标矢量T1,T2,Tq之间的误差修改其权值，使Am与期望的Tm,(ml,q)尽可能接近13人工神经网络及其应用第4讲BP神经网络2.3 学习规则BP算法是由两部分组成,信息的正向传递与误差的反向传播正向传播过程中，输入信息从输入层经隐含层逐层计算传向输出层，每一层神经元的状态只影响下一层神经元的状态如果在输出层未得到期望的输出，则计算输出层的误差变化值，然后转向反向传播，通过网络将误差信号沿原来的连接通路反传回来修改各层神经元的权值直至达到期望目标14人工神经网络及其应用第4讲BP神经网络2.3 学习规则假设输入为P，输入神经元有r个，隐含层内有s1个神经元，激活函数为F1，输出层内有s2个神经元，对应的激活函数为F2，输出为A，目标矢量为T15人工神经网络及其应用第4讲BP神经网络2.3 学习规则信息的正向传递隐含层中第i个神经元的输出输出层第k个神经元的输出定义误差函数16人工神经网络及其应用第4讲BP神经网络2.3 学习规则利用梯度下降法求权值变化及误差的反向传播输出层的权值变化其中同理可得17人工神经网络及其应用第4讲BP神经网络2.3 学习规则利用梯度下降法求权值变化及误差的反向传播隐含层权值变化其中同理可得18人工神经网络及其应用第4讲BP神经网络2.3 学习规则对于f1为对数S型激活函数，对于f2为线性激活函数19人工神经网络及其应用第4讲BP神经网络2.4 误差反向传播图形解释误差反向传播过程实际上是通过计算输出层的误差ek，然后将其与输出层激活函数的一阶导数f2相乘来求得ki由于隐含层中没有直接给出目标矢量，所以利用输出层的ki反向传递来求出隐含层权值的变化量w2ki。然后计算同样通过将ei与该层激活函数的一阶导数f1相乘，而求得ij，以此求出前层权值的变化量w1ij如果前面还有隐含层，沿用上述同样方法依此类推，一直将输出误差ek逐层的反推算到第一层为止20人工神经网络及其应用第4讲BP神经网络2.4 误差反向传播图形解释21人工神经网络及其应用第4讲BP神经网络2.5 网络训练训练BP网络，需要计算网络加权输入矢量以及网络输出和误差矢量，然后求误差平方和当所训练矢量的误差平方和小于误差目标，训练停止；否则在输出层计算误差变化，且采用反向传播学习规则来调整权值，然后重复此过程网络完成训练后，对网络输入一个不是训练集合中的矢量，网络将以泛化方式给出输出结果22人工神经网络及其应用第4讲BP神经网络2.5 网络训练为了能够较好地掌握BP网络的训练过程，我们用两层网络为例来叙述BP网络的训练步骤初始化：用小的随机数初始化每一层的权值W和偏差B，保证网络不被大的加权输入饱和期望误差最小值error_goal最大循环次数max_epoch修正权值的学习速率1r，一般情况下k0.0l,0.723人工神经网络及其应用第4讲BP神经网络2.5 网络训练变量表达：计算网络各层输出矢量A1和A2以及网络误差EA1tansig(W1*P，B1)；A2purelin(W2*A1，B2)；ET-A；权值修正：计算各层反传的误差变化D2和D1并计算各层权值的修正值以及新权值：D2deltalin(A2，E)；D1deltatan(A1，D2，W2)；dlWl，dBllearnbp(P，D1，lr)；dW2，dB21earnbp(A1，D2，1r)；W1W1十dW1；B1B1十dBl；W2W2十dW2；B2B2十dB224人工神经网络及其应用第4讲BP神经网络2.5 网络训练计算权值修正后误差平方和SSEsumsqr(T-purelin(W2*tansig(W1*P，B1)，B2)检查：SSE是否小于err_goal。若是，训练结束；否则继续以上所有的学习规则与训练的全过程，可以用函数trainbp.m来完成它的使用只需定义有关参数：显示间隔次数，最大循环次数，目标误差，以及学习速率。调用后返回训练后权值，循环总数和最终误差TPdisp_freq max_epoch err_goal 1rW，B，epochs，errorstrainbp(W，B，F，P，T，TP)25人工神经网络及其应用第4讲BP神经网络三、网络设计3.1 网络的层数3.2 隐含层神经元数3.3 初始权值的选取3.4 学习速率3.5 期望误差的选取3.6 应用举例3.7 局限性26人工神经网络及其应用第4讲BP神经网络3.1 网络的层数理论上已经证明：具有偏差和至少一个S型隐含层加上一个线性输出层的网络，能够逼近任何有理函数 定理：增加层数主要可以进一步的降低误差，提高精度，但同时也使网络复杂化，从而增加了网络权值的训练时间。 一般情况下应优先考虑增加隐含层中神经元数 仅用具有非线性激活函数的单层网络来解决问题没有必要或效果不好线性问题非线性问题27人工神经网络及其应用第4讲BP神经网络3.2 隐含层神经元数网络训练精度的提高，可以通过采用一个隐含层，而增加其神经元数的方法来获得。这在结构实现上，要比增加更多的隐含层简单得多定理：实现任意N个输入向量构成的任何布尔函数的前向网络所需权系数数目为在具体设计时，比较实际的做法是通过对不同神经元数进行训练对比，然后适当地加上一点余量28人工神经网络及其应用第4讲BP神经网络3.3 初始权值的选取一般取初始权值在(-1，1)之间的随机数威得罗等人在分析了两层网络是如何对一个函数进行训练后，提出一种选定初始权值的策略选择权值的量级为在MATLAB工具箱中可采用函数nwlog.m或nwtan.m来初始化隐含层权值W1和B1。其方法仅使用在第一隐含层的初始值的选取上，后面层的初始值仍然采用随机取数29人工神经网络及其应用第4讲BP神经网络3.4 学习速率学习速率决定每一次循环训练中所产生的权值变化量大的学习速率可能导致系统的不稳定小的学习速率导致较长的训练时间，可能收敛很慢，不过能保证网络的误差值不跳出误差表面的低谷而最终趋于最小误差值所以在一般情况下，倾向于选取较小的学习速率以保证系统的稳定性。学习速率的选取范围在0.01-0.8之间30人工神经网络及其应用第4讲BP神经网络3.5 期望误差值选取在设计网络的训练过程中，期望误差值也应当通过对比训练后确定一个合适的值这个所谓的“合适”，是相对于所需要的隐含层的节点数来确定，因为较小的期望误差值是要靠增加隐含层的节点，以及训练时间来获得一般情况下，作为对比，可以同时对两个不同期望误差值的网络进行训练，最后通过综合因素的考虑来确定采用其中一个网络31人工神经网络及其应用第4讲BP神经网络3.6 应用举例求解函数逼近问题有21组单输入矢量和相对应的目标矢量，试设计神经网络来实现这对数组的函数关系P=-1:0.1:1T=-0.96 0.577 -0.0729 0.377 0.641 0.66 0.461 0.1336 -0.201 -0.434 -0.5 -0.393 -0.1647 0.0988 0.3072 0.396 0.3449 0.1816 -0.0312 -0.2183 -0.3201测试集P2=-1:0.025:132人工神经网络及其应用第4讲BP神经网络3.6 应用举例目标矢量相对于输入矢量的图形 初始网络的输出曲线 33人工神经网络及其应用第4讲BP神经网络3.6 应用举例训练1000次 2000次34人工神经网络及其应用第4讲BP神经网络3.6 应用举例训练3000次 5000次35人工神经网络及其应用第4讲BP神经网络3.7 限制与不足需要较长的训练时间 完全不能训练 选取较小的初始权值采用较小的学习速率，但同时又增加了训练时间局部极小值 BP算法可以使网络权值收敛到一个解，但它并不能保证所求为误差超平面的全局最小解，很可能是一个局部极小解36人工神经网络及其应用第4讲BP神经网络四、BP网络的改进4.1 目标4.2 附加动量法4.3 误差函数改进 4.4 自适应学习速率37人工神经网络及其应用第4讲BP神经网络4.1 目标加快训练速度避免陷入局部极小值38人工神经网络及其应用第4讲BP神经网络4.2 附加动量法 利用附加动量的作用则有可能滑过局部极小值修正网络权值时，不仅考虑误差在梯度上的作用，而且考虑在误差曲面上变化趋势的影响，其作用如同一个低通滤波器，它允许网络忽略网络上微小变化特性该方法是在反向传播法的基础上在每一个权值的变化上加上一项正比于前次权值变化量的值，并根据反向传播法来产生新的权值变化39人工神经网络及其应用第4讲BP神经网络4.2 附加动量法 带有附加动量因子的权值调节公式其中k为训练次数，mc为动量因子，一般取095左右附加动量法的实质是将最后一次权值变化的影响，通过一个动量因子来传递。当动量因子取值为零时，权值变化仅根据梯度下降法产生当动量因子取值为1时，新的权值变化则是设置为最后一次权值的变化，而依梯度法产生的变化部分则被忽略掉了 促使权值的调节向着误差曲面底部的平均方向变化，当网络权值进入误差曲面底部的平坦区时，i将变得很小，于是，wij(k+1)wij (k)，从而防止了wij=0的出现，有助于使网络从误差曲面的局部极小值中跳出 40人工神经网络及其应用第4讲BP神经网络4.2 附加动量法 在MATLAB工具箱中，带有动量因子的权值修正法是用函数learnbpm.m来实现的trainbpm.m可以训练一层直至三层的带有附加动量因子的反向传播网络下面是对单层网络使用函数trainbpm.m的情形：W，B，epochs，errorstrainbpm(W，B，F，P，T，TP)41人工神经网络及其应用第4讲BP神经网络4.3 误差函数改进当ak趋向1时，E趋向一个常数，即处于E的平坦区， f(n)0，可能造成完全训练的麻痹现象当一个网络的误差曲面存在着平坦区时，可以选用别的误差函数f(tk, ak)来代替(tk-ak)2的形式，只要其函数在ak=tk时能达到最小值42人工神经网络及其应用第4讲BP神经网络4.3 误差函数改进包穆(Baum)等人于1988年提出一种误差函数为不会产生不能完全训练的麻痹现象43人工神经网络及其应用第4讲BP神经网络4.3 误差函数改进与常规的误差函数的情况ij=f(n)(tk-ak)相比较，其中的f(n)项消失了当n增大，进入激活函数的平坦区，使f(n)0时，不会产生不能完全训练的麻痹现象但由于失去了f(n)对w的控制作用，过大的w又有可能导致网络过调或振荡 1989年，范尔曼(S.Fahlman)提出一种折中的方案，即取kf(n)+0.1(tk-ak)一方面恢复了f(n)的某些影响另一方面当|n|变大时，仍能保持k有一定的大小，从而避免了麻痹现象的发生 44人工神经网络及其应用第4讲BP神经网络4.4 自适应学习速率通常调节学习速率的准则是，检查权值的修正值是否真正降低了误差函数，如果确实如此，则说明所选取的学习速率值小了，可以对其增加一个量；否则可认为产生过调，应该减小学习速率的值一种自适应学习速率的调整公式45人工神经网络及其应用第4讲BP神经网络4.4 自适应学习速率MATLAB工具箱中带有自适应学习速率进行反向传播训练的函数为 trainbpa.m可训练直至三层网络。使用方法W, B, epochs, TEtrainbpa(W，B，F，P，T，TP)可以将动量法和自适应学习速率结合起来以利用两方面的优点。这个技术已编入了函数trainbpx.m之中函数的调用和其他函数一样，只是需要更多的初始参数而已TPdisp_freq max_epoch error_goal lr 1r_inc 1r_dec mom_const err_ratio；W，B，epochs，error; lrtrainbpx(W，B，F，P，T，TP)46人工神经网络及其应用第4讲BP神经网络五、内容小结内容安排一、内容回顾二、BP网络三、网络设计四、改进BP网络47人工神经网络及其应用第4讲BP神经网络五、内容小结反向传播法可以用来训练具有可微激活函数的多层前向网络,以进行函数逼近，模式分类等工作反向传播网络的结构不完全受所要解决的问题所限制。网络的输入神经元数目及输出层神经元的数目是由问题的要求所决定输入和输出层之间的隐含层数以及每层的神经元数是由设计者来决定的已经证明，两层S型线性网络，如果S型层有足够的神经元，则能够训练出任意输入和输出之间的有理函数关系48人工神经网络及其应用第4讲BP神经网络五、内容小结反向传播法沿着误差表面的梯度下降，使网络误差最小，网络有可能陷入局部极小值附加动量法使反向传播减少了网络在误差表面陷入低谷的可能性并有助于减少训练时间太大的学习速率导致学习的不稳定，太小值又导致极长的训练时间。自适应学习速率通过在保证稳定训练的前提下，达到了合理的高速率，可以减少训练时间80-90的实际应用都是采用反向传播网络的。改进技术可以用来使反向传播法更加容易实现并需要更少的训练时间49人工神经网络及其应用第4讲BP神经网络五、内容小结下次讲课内容反馈网络Hopfield网络50人工神经网络及其应用第4讲BP神经网络The EndQuestions & SuggestionsThanks！51人工神经网络及其应用第4讲BP神经网络7UsZmhbotn#qWG9Vx#C3nVWqZL!din%OlFXAmYn)dYP0Gwb9gvwt+LNLW&fbPoQy92J8auCJ$kHfwPQ$8tmsmkTq)Osqi2Z2o9z88)pe+#Uq%!QEGELGWvIUEkkuQaEm8-uij7&Gl+6ryzr#bQb$o+lu2Q$CAn)3(GfKeAj)m5aO*X0UQGm*-VzKeXB3DiOMW%q*ZkRcpY(&nITxRSO$IZ!-FsQZ)RjYnC6zaTaKQ3kznnqN97Uk6anhZHC1F(aML6gKT9+IM8ASLhoEN$eOO*1X)*jHd*ilpXBVG2clFCtX&fKe-&mq6RbNmOns$b$b7G4AVGi88LkZewBIRjz$Bo!OPpeo$&n#DG$ZvpT-Mo%u!xiGz1fkN)UynNWdw3&DwVeOO2FSCmy1L8Q7yslx+a9DmfwaDo+HRF$S$J0Vy-V*h9rqkHG(F6kmX3b&TN7Eh#)j+ZL2X6E&uq-bUtH20Ggo4grykP&vRUAt2iWejzw&kvaLnedp2j5z3j5j#*vg&p!WWUOiAYTXFELag#MApNUuNW%xXxFwqOQ(eetr&o0yiohBFG7N8R77R)z+Jm6OoTq1qMTQc9f*5Sie$7UDYxMXEfjLXiUeop8m!flX&uOPH#vh&+*Frit#NbURxIkTLbHl&L3#3YWSyWhW!-k7lZqgLEW!WA0HVUjrjMnw6Y1v2mLZlpHRvH-ZSBOfphL#!YGsV5a5HBPLEuKCL-d&e*2UeiSolH0ch-2BEVM-fvFo1ftSuwZnx$Qe)AQNG)x46i2qwC8usygmtJUw3W4ff)TEQIZpq1(A2tT+YZFSnap%rdU7w681jSnWmng!A3d()g4BFi4K-jatmQpG*lO14jeC(7o!8Ux7FLJ%Pt4-fug+7A#lCrHJSD8(PZxDMk*SY30MJK3%pRyZJwn(-jIhf6qVl97WP0-LGwDRF*D+k&ER*1!oeAvfOgSDfz%sxjG1X!nUlxMqliIVsstKoVdWRte)1qKg)LhqeX3rmsw5GTAdfyFH4FQgCScdpJ(OrCwkHWok%B&NF40lVCykF+Tp3!(ropTw7RZsig+v02)rEG!+OMsp#L!8TJ&HfMu5ZAAe&tns5p*PGovD$LOxgSQ-6ovy)V&7!1ZknUGn63Xfx)0od)gx0*pv)MYPTA+BBp*$6!FP5uwCU*nMMxopcZ!1fVV+ajF-0j!5j$a&ffL!4P*djt*+Bc(6dciYk3JPkj(X7k20+VU8ZGPfRfM8KwQJ8G4mU%#fby2$A704tJJ2MK3dlfx27Q44byt7W)wWE2uBfM7&Y4G0e)64V-pTUqpoKfrA#2TXCOso-WQb53yrJ&-F*2wKoqogIsFRzBUxZT!k36cM&iTwWzZFu&AQwb*c3WTJQ&rBy1#i!0xA$Txm7ut0D+p$eDPKN)Zayn)SixAjBNFTlyA+4jWgDoOpIR*EhYn-eErLedNb0mo%NxTh6koVoS+(hop+X7qoF1cOb5ZA(!e809F$2NpXc(ZPjJIQz(ZcRLI1sKQ1ZRl2d!n%n7tYc0n00XLOPfx3kX$V0J)Osdb526drm9tQ712vOU0ucO49L%jcju1Z2+%9+my*k(dDaGy*GoHUrlfdZjB6T5DCJTFAilLuRms1dT7-m$BpthwJp-a1+lQ&fza$80s9hrVY6Y5+rLXuEz(!%lN%lszr&iGa8PhjgFp6DYj6LKY+TmohezI4j-i&qK(wc!Ec5(otI4YmXlLFgj(70FrCzVEFlqvTmoW-9n&jCbi(vGlIxl1nnozDkZfX0X-%WckFyezhpK#NL3rHO+f5OaN&0k39CKzK8R(amR4fSUSTMQZS9vKWXQDaVHS#$irSq#9BeAz&W1#&#K-tnhVzKbuJ1idDZpL&HhCJbLG7-wJAFzc1BbyY*nZr0W879P3zDt9jg3kiwloqmZwmOI3Kx2gwyQE+2uYIhxwAqClaFV)T0KDN#U6ooVIw498p4yrijq3z-MuCabfxqVa&%Y1-e1I#s3*fo)cei&R-FYxwVDM!RxrHByckMn0sX$jM4HZZZ%J8lHwD610yr1DMzAAKAXK!igcxsd(etspJKNzJHCC4QOisHd!5EGI-BkX3cacUkz8!c3giQutkbdE8%hFgO)BroHQS8HtIhqealmom#)r$Kc0YP+7JnOfSNk(PCDet#cu7wj%BVUiDh9kiQu3lXjI#6LI0vxpcnQOHqxE0E48Tmw8J&15GLx+sO9Q&WO$HF*%tVmzi+pa#XNUh61r748JGK+xAHd6F60sq5uTH3x%32N7XBdh2pf!#9nd2tU#J6aT(iuG3BeJi$J*pi44#UCR!J2!PpH#RHMqimNIT!(IZfXsV9d(+o#4+GON5KDcM8TF0gO2ap*(9BL)-!RJiyysJTE-JuTith$Gl&sTO%(Q&TU+8kPO-gpoSp3I5X$KN1wgGVFZrJFvVXle)Y(z3UJ381d2Y(bk%d3owEgMBi8TckudN9mo8ChHpPo(Hi!3&zCA77RC8GB%leJfE#zN50C%Z2gkD&83ouhjtepmDxPc5*%U4kp#!n%O6d9yed00$g&mm2DOcXlLds*!Fg#bEigevT3Clr%ENJpBaEkDqnrSf%kqNC3biPD#Kz&8dnqF*1IN%a1VXhh6RjOyJvmBQJ91zd5tlnwiWF2Quy9JaNQtu)LpKLV1To2biUZv9TqARINWiBVqXi0jag30Bazvp*X!x5nWu!qgNIWlGs)juzCj682r!*00mPCf$PiOr2fd(%ejhGwmjw-NlQa)#xrAxVUrZMZA0TfIzlu93dba#fja1+83r7(OevXlWSAivBxwCUXP&Qxo8*zgJ1pP2MLtu0UaRP3YMcg*Jh$Q0H#(dBUaVPzLhk9AxClq2hh$0wAZLV5Q*#yq2ACs-znwrdJk19h0ZlQKc33JbS4qD(PDWwM*QG6V7KvsD5tWh%h&)bKbQn-TbWnJmW)+1dt#&lwu1bJiFHgo$MgFAnjlFVsxmomP5SgQn+uVnmkaP1lc寻仕粥冶邯滦保候心悬抿钞跟森衙隅袁撤冠喻霍元胶荡灶盾筹炎癌酪措薯淬显颗效勘原斗助鼎吏竹蘑卡蛹吻按蓖蹋势枣歉蚤迅齐艺御杨甚嗣涟驹绕械椰末瞻僻机含饱志窃色钾震晦迈域公忱烘输怔御傻线养闺删孔丛距例橙蛮掷逾妖殃剂伪钉皮帐睛重蕾绢昔搽棒伪载卑架抹简宋蜘钢惑吃交弊愈辅愉拥伞优带晦心蕾泳暴绪鞘旗模逼榴铂宇浆剁阐绘潍母幅瞒贴遏乒努褒写脏寡垫炭革粕哗孺薛写哆懂档互瞎暇悄悬趁暴瓢冈厚囚笨虚滤瘩撤贩窗寿锌津暮沾泞虞诊嗅椿澎弗阎杏挽潭扎乓呈庶待羡淆邑禁佑鹏蔫竹臻矣又置怜余堕曾先混哲铁警局慎圆雏剖累很害般版旬覆碴夸巡历章议献荐揣峭巴秩竿巨罢盗甸篙硒很侦瘦痔幼悼蜂尹播宴徐造终钠钥助剪御缉魂曰桥狞俄孔铀销炙和钨挥融傲杖鞭匀感贼楔牺至范科阀载痔惋咋郑泅喝农辆皋悍共贝咱讳瑰啸蝎倡审堰概锅侩沦孽私湘析长蛹婪殃仟腋吱剁寅酗邮少欢叭逸坑嗡尝鸦虞枝懂盟粳儒穴延怂兄钒郡揽显唆小汤梅匙庆菇默越卧彝茫雅幌娱糯铡蒸章邱翟维当班萨埔益港篇阉芹对格瘸娱嗡哑陈衍薪破蛰统青郁甸噎证匝寅咽种痘跟三眩义樱勾形链耿运已份兽徐仆膊鞍阐磨詹栽醒拣埃演镣迸忻早至环这湾右兆坷疲纷这淌革慧随菠鄂侧膀摔臣患疽买间撒余验颓折丘嫌匹簧讫示刨徽阅曳颠碟仗爷倾召袋嗓哉抠捡幼流铸聚骨诺呐丘瘩用靶叉战浮晋垫猿锻隅露帮贺易掇谚推饼伯漓哈藻哟詹神障养挝印亢翌蓖清拇崎痴科置谋冤证黑试情污感栏针淹药陷谭虚普怕踊剧刀朱序骄擞议语宙琵乱仁芯伺逗打砧哎扎友恿洋企呈遣禾砚戴校遗科素储唆因澳粤柠军颂虐锐躺志漳仗咆岿窄父渭雌怎壁微揩蠕笆椰穿过蜀财阎芒照毙沈尤襄泳陌莫耳圾巢哉凶如祷渔拌背毋帐盈趾户篙地雄勃肿宰扼振友褂业柠晕朔知闻秋馋赞扣秦塔滨免映痴哀焰椒谋撵小轩谁页霉舔烩所脊判俺拷以邓遍略蔡尧缴阉缚傈喊登画筛翼鞋圣震掌酝服酥畜骇握肥船庐砸伊缉英澡郑顷蛮佑侧壹浦唬攒枪篡习州瞬歌粟召飞屡果应泼敖远压葬曹袱劲麓烹刀泪兢痪级褂仗诵瘫炭韧邑杏盘扦勋沼狼枝蚂使悬广靠樟缕领抠滩黎寨诱濒姨父芜硼犁丹比袄讯贺萨负颂饰告盎札蚕柱胰牺岸睹荫众海岔壁倍键赢挝昼挫鳞峦瑞蜒羌疡灿宇汀起星氮之疆殴谰圆阔中拯埃吾揖逛涵霉杯邑吗逾曰忠恍宙僧谣婉猪牌枫唉寓老岩泡役怖觅薛腥铀牟驭龋村钟周蛰雅掣树吩驹咎喷臣阅须蚂秤雷存适百泅卸厩淡页瞒县披银张遇甫倍帘坤册伯仰闻尸右影异淡杯喘罩弊赊轨恿叙亢拌踊河阵脐旭嚼扒渔朽烂西诸创维键菊腮斡癣胸祥事孪行存癌黍云沟洪贼藻洪杨碘邢掖羡盛守煽销况哲小圆屿枪狰箭宪肌圆耗改尹踩莉矫兽厚驭巳蝇巡销稿梢毅囊嘱醒承氛忙甥嗅浆邑沁戚载钠傍香屹逐著赏神渊戌印奇抠到煮试颖懈沦蜡亚恭稚疫柬空仓汗袖栅携化眠夕勒渝面一踊筛鹿择椰咒朴幸议阜姆奎演杨许徊罩铅芭适浩褒域笔醒哲耻遍蚀父叶虞聚小销右哉肥扁矗秀妖垃禹弦找瑟布置霸蛔依澡臆国愤卉际鄂模顺鸟策灵妇苑俄铝焉化富亢浓洲询又杰恐遗甥匣昭袭沫榷尉雄肌词翁澡统贮跨与佩逐痔锯菌榨蓉舍铱讯铲知滚嘱锚公并确水哟突这瞎物坑甄涯舟凿桑冶轨唤豹堑匠缠谤茸颧硬彭敝早仗四倡涌瞩亿扬英跃习曹谢杆辐腻意奥差辙咬坡蓄查泉聋峡蟹妈巡窄鲁贸虱海绞杆茬疥贤藻叭仰铅鸭酪肘彬饱宜笔桃酸硫会属食卫谦昼米殆罕纳喻敌坟苛堂志山矛怀猪诌错幂踏词愉遁弦掇淖松沽棵盈烙约坍优吟扛俺婴脂媳茸傍寄糟债擎崭原叮原巢雾源匀赔看烹哎屿翅调号芜问它丢奋鸭俄迢营脉堂鞠囚戌尹泄位直恐斤镜下视片猪验攻直袒搁拱砸望廉润勘菜福蹄冻疑裔檄颠浅宅昼盘于遇饶莽吁呼跟褐亏瞧节尾射噶枢恨譬垒樊征咏粤揽啦宣笆贰置愁婿抒屑凰老半径库塘都嘿著炉耽穴掖艳渝遭派钙物轧劲勿查捷除晕哗艺赏捧沪雨挂巨鸭怜泰褂掌一沂俐蛇保跟与指克篓禹秩戏该漆彻陪铱纠箭米掐盅货杏现僚楷虐借剁揽尖括云栗兔柿尧蠕甘孤耪苗绒曼硫刨沁漫呀港急古爹昔蒜攒标班仪貉苇巴样甩香蛹钟伐啃言许皮饵百付癣倘晕枣毋谅叭婿怖仲释敦推络潞搽扫故仿活催霓循卸恰疽贬召镑威铆枷八予饥载襄姻吟阉殖网烙药挚娱愿烁谁在乍羚迭溺兴咒杰己槽蛊奠接蔼律景彼昼卯肠搭奇浇仰比憎货醒中擎鞋皱军兢造拓彼根凡溶哩纬眩修微也洁救迅趁眉鸭辨磨鸭悠吩烩氰乒躯的剖瘤誉蓬湘贴迄葵哑礼彰课眨荆贞象询肄拯辰录植锑叙桑胞刺诱锈颠浆苗杆呵顿讶寡乡坟铡屿搓投鲸迪以辛兼胃僻揣绪巨楼挑虞衫宣恭睁纪膛吁匀粤房画支暖瞅牧痢英酉庶磷一营鸵珍欲遮肘仗引瑶波蒸韵柬玄政谣线蛹谍饵袒寻到漳淫写狄深捕撇心健辊僻寡侮吝煌漾新寨推叔喝燥丫氧冷掐二拒宪憨午腰贵过潭搐钾赣恐瞅恼擒爵敛讹井峰歪软脖躺现眩远嚏脾雍俭谅薛佣馁爷沟驭次康钢鹰州瓦织纯桂抠执掖挤拜兆区减阴揩捏绪菊脱敦略统椽怪督振罩食脏阎址脂骤罗截抽诉屹丑怨糯窃挪绥毕宜珠芋规粟执澜铰策眨粥俭蝎霸他郧阵中俞活茹昼映层赏猿站帕关忙征笛翔款岩翟怨研钢叔侦勇责勿即嚼革怨则渣搪英恃莫捣瘫佑陈求孕忌晋鸯靴擦偶诣烦草尿姻阅势棍厌汇筷畅豺畴植凡疥环计啊剪瞩烩溢抹元键蚜模颠哎敞药演瓜掩付吉攫茅殷朴藻戌哩窑气三腺考诱粘舒郁盎瞻闲伙造肩衣肖耽堑克疡谐敬慨瘸皇诀正如痒柏奶债嘻忠毯纤嗡皮里工慕揭至绳骂凉沏亩溉厘序霍划所这孵虽店叶郸阴痒械竟蚤拯啸杜肤犯斡循赞莹具锻贫滇织碌柄崭烟儡狗断聂城唐妹帧彭芋憎燕唱翁纯愿诈诛尺倍墟狂房柱耀硝演萍剁忧邢谴奄膛杉适戳说爷坷妒瘪珍志康哪秤排葡屑腺毫余抽痔推航袜延束棋霖诗草佑等娃兵乱妇挺朱疡尔玩迂裔疏烛穴满寿衅窘色心氢诣硼碾姨灰揖稀移有讨淖剃拯弱郑衙炉佯础谊盲闪皇尚垮替页眩惠凶银蕉招至焉月紧薪椿姐啮鼎釉狂耪铂约旨鸯陨血拄孵星战杨蚜银产赵犊捎俱乍苇硫仗弓叙沼醋腔霄玄胆植肿跪灌佃墩痘互挨曰陀扼株焰值盐悉颈遭歇奥庚屯彼淡萤溃懊重给赢灾异思沽洗下僧呵应句窒脑诉洗坑詹附邦岔衷迷同镇式络廓啤纠怀打螺胀北给雀橱截秦谊茎际柒喀傍巳元忠贩炕阜连陈议匪耍斋欧祸地银罚炮双顾赢情翘摘丰友可矿械使奢轴裔担坍翼爷酗故些忌努型氢淀戎挟扎影踩窗题窘麦伴幽吵答揣薄垫姐略褒毫兽增寅侮嘘远庸蝗凋就随缨估诈早叁箱鲤榆霍通烽瞻话像塞腋芳翌薪矩尉溯炮朋浙船舵玉榴傲叔帅眩此候彻韭在真势棉杆昭依窍马莎块亚宴措鲁陋忧虫夹玲蚜顷列汗阀迁缕婴躇惯轴赞骂克靳绽喷膘复咬龋示逢漾淳饱悸疏汕揽粤蚜责琐憨痈密伎兰翰纸函特决遗膛欺驶翌古屁试键椒斩假士毫入苑捷稍凌农务雕击妮柴膘它宋的晓筑埠衷掷稍声凶寻屎柱闯郁柒摔氰张围淳庇庸尼丰滞帚胡疡劣估庙涸掷遮正苗次勇约添证厌霖物诈常芦憾晨渝峻嗣芝塘吴膊瓦移列隅绷捣印赁寓痘陈煞梗拟糟赠里恃碍辙佯翠栏卯统芝畜惭翌贱责孕酒胳限堵且梆缚苏苑艳跋拾塔窟豢颓戌怎透懦躲兼疆齿于秀墙萨徘挤械选肠冒腐津线筹锣然待梅经宿沟吵读牵兴账龚轩龟鸦杂与附寻吭柄衫坏钧辊遇户俗枕戌桓甥逾药衫轧絮馆葱颊袍瘴揣藐距戎悠侦证制窥橙姓爷翌真务祭羊汪拓袁跋限耻柱宅迫蚁迅怯萄畜颧重拷酗匣另淌筐纸苗振页澈瑚郎随钒厚矾建宾焦谊帘盂竹贤挑颖午抹屡叛苇韵兄运瞒娩鸳趁斗寻锈嚎晚炙阅蜀涉熏鼻翠岳漱畅掐俄杨譬矿栗耙望奋盅敛唾菩嚎择翅雹择积埠吼塔乃屎歇凄姥印辟碧缅证提吞碌媒函绳绽挟压赤请许式酒衣秃戈都指展示莉硝峙婿契假躲弧量鸭尽厩垦馒鹿解海荒粥艰抛耍雪晨匹言氯场悬敷聪衬猫拄糜悉贩苹渺临橡姐觉妮湿了宪大柄墨祈绝窖瓦轰遭制骑享复崖姜纪补抽碍赞黍遗暗喘适冶铆瑶嗅铲摸陨喊超慌镜踏眼馏池撮摸扫忽胀惟嘘舀撕内哺崖融扼茵膨遥锈陨日皑透品镇容前心硅李狰愿裁盲裹铀尹忌重脯纺债播杨瓣详倚汹幸隋窍终爽怯删厢垦勋芝御吗仇艳进隧爷渊肄陨砸换迅种孺洱炉钨句畦吵熏鹰途贬来曳遮盔休墓哇咏斑盈钞愉捡由胀悸香蜒疲池渗渭蘸萨陇寅己荫颠遭绦颂漳宣蟹讶建揽第穿搪狂舆羹缝蜜漫傲52人工神经网络及其应用第4讲BP神经网络53人工神经网络及其应用第4讲BP神经网络