摘要:本文给出了一种求解无约束优化问题的共轭梯度法,该算法搜索方向的下降性不依赖于任何线搜索条件,并在强Wolfe线搜索条件下证明了该算法具有全局收敛性.
关键词:无约束优化;共轭梯度法;强Wolfe线搜索;全局收敛性
最优化问题广泛应用于国民经济的工农业、能源、交通等许多部门以及信息科学、环境科学与军事等领域.概括地说,凡是追求最优目标的数学问题都属于优化问题.无约束优化方法是优化技术中极为重要和基本的内容之一,且其优化理论发展较早,比较成熟,新的方法还在陆续出现.其中最速下降法、Newton法、共轭梯度法等都是我们所熟知的一些方法.
最速下降法也称梯度法,是1847年Cauchy提出来的,最速下降法的优点是算法简单,每次迭代计算量小,占用内存量小,即使从一个不好的初始点出发,往往也能收敛到局部极小点,但它有一个严重缺点就是收敛速度慢.