共轭梯度法课件-－金锄头文库

最优化,主讲：刘陶文,课件制作：刘陶文,唯楚有材於斯为盛,学好最优化，走遍天下都不怕,第一节二次函数极小值问题的共轭方向法第二节非线性共轭梯度法,第五章无约束问题算法(III) 共轭梯度法,第一节二次函数极小值问题的共轭方向法,返回,从上面的(1)和(2)可以得出稍后要介绍的共轭方向法或共轭梯度法的基本原理,返回,共轭方向的定义,证明如下,几何解释：,共轭方向的计算,前面讨论的共轭方向法需要在算法之初产生 n个共轭方向，因而需要很大的存贮量，而且不能用来求解非二次问题. 在下一节我们介绍利用函数梯度逐次产生共轭方向的非线性共轭梯度法，而且可用来求解非二次函数的极小化问题,第二节非线性共轭梯度法,这是共轭梯度法的一个最本质的定理,共轭梯度法的收敛性,当使用前面介绍的两类非精确线性搜索时，共轭梯度法的全局收敛还有待于进一步的研究.,强Wolfe 型线性搜索：导数两边夹的形式,