一类改进的拟牛顿算法

徐莹莹，张　惠



一类改进的拟牛顿算法

*徐莹莹，张惠

(郑州工业应用技术学院基础教学部河南，郑州 451150)

在利用拟牛顿算法求解非线性无约束优化问题中，本文在文献[8]提出的拟牛顿方程基础上，通过加权形式构造一类改进拟牛顿方程，产生了修正的BFGS校正公式，进而提出改进的拟牛顿算法，在一定条件下证明新算法的全局收敛性。数值实验结果表明，与文献[12]中的拟牛顿算法对比，新算法在迭代次数上更有优势。

无约束优化；拟牛顿方程；线性搜索准则；全局收敛性

0 引言

1　新拟牛顿方程的提出

2006年，Wei在文献[8]中利用目标函数的泰勒展式提出了一种新的拟牛顿方程

其中

结合式（2）、式（3），考虑它们的加权形式，有：

进而构造出一类新的拟牛顿方程

由（4）式给出如下校正公式

2 　新拟牛顿算法的提出

新算法采用wolfe搜索准则，其算法步骤如下：

Step3 利用wolfe线性搜索准则

3　算法收敛性分析

我们做如下假设：

4 数值试验

计算结果见表1：

表1 数值实验结果

5 结语

本文通过加权形式构造了一类改进的拟牛顿方程，提出了一类改进的拟牛顿算法，在一定条件下证明了新算法的全局收敛性。并通过数值试验表明新算法是有效的，相对文献[14]在迭代次数上有一定提高。并希望通过新算法，结合文献[16]的研究方向，求解非线性方程组。

[1] 袁亚湘,孙文瑜. 最优化理论与方法[M].北京:科学出版社,1997(7):183-218.

[2] 刘辉．解非线性方程的牛顿迭代法及其应用[J]．重庆工学院学报:自然科学版,2007,21(8):5-8．

[3] 楚添定,马柏林. 基于新的拟牛顿方程的Broyden- Fletcher-Goldfarb-Shanno算法[J].应用数学与计算数学学报,2012,26(4):360-367.

[4] 王海滨. 基于新拟牛顿方程的一类超线性收敛的改进BFGS算法[J].兰州理工大学学报,2007,33(4):150-152.

[5] 郑发美,刘辉辉. 一类新拟牛顿算法的全局收敛性与数值试验[J].河南师范大学学报:自然科学版,2010,38(2): 35-38.

[6] 陈兰平,焦宗聪. 一般无约束优化问题的广义拟牛顿法[J]. 数学进展,2007,36(1):81-85．

[7] 焦宝聪. 一类超线性收敛的广义拟牛顿算法[J].高等学校计算数学学报,1999,21(6):178-188.

[8] Wei Zengxin, Li Guoyin, Qi Liqun. New quasi-Newton methods for unconstrained optimization problems[J]. Applied Mathematics and Computation 2006,175: 1156-1188.

[9] 时平平,王希云. 基于新拟牛顿方程的拟牛顿法对一般目标函数的全局收敛性[J].太原科技大学学报,2008, 29(3):1673-2057.

[10] Li Donghui,Fukushima．On the global convergence of the BFGS method for nonconvex unconstrained optimization problems[J]．SIMA J．Optim．Anal,2001(4)：1054-1064．

[11] Xiao Wei,Sun Fengjian．On quasi-Newton methods with modified quasi-Newton equation[C]．In Proceeding of 2008 International Pre—Olympic CongressonComputer Science,Volume II:Information Science and Engineering，edited by Yong Jiang and JianLiang Li. World- AcademicPress.2008:359-363.

[12] Yuan Gonglin, Wei Zengxin. The superlinear convergence analysis of a non-monotone BFGS algorithm on convex objectivefunctions[J]. Acta Mathmatic Sinica English- Series,2008,19(1):35-42.

[13] 赵云彬,段虞荣. 伪Newton-δ族算法对一般目标函数的收敛性[J].数值计算与计算机应用,1996(1):36-47．

[14] 赵云彬,易正俊. 伪Newton-δ族的导出和全局收敛性[J].数值计算与计算机应用,1995(1):53-62．

[15] 宫恩龙,段立宁,高苗苗,等. 基于修正拟牛顿方程的两阶段非单调稀疏对角变尺度梯度投影算法[J].数学的实践与认识,2017,47(6):233-242．

[16] 徐林．基于改进拟牛顿法求解非线性方程组[J]．济宁学院学报,2016,37(6):54-57.

A CLASS OF NEW MODIFIED QUASI-NEWTON ALGORITHM

*XU Ying-ying，ZHANG Hui

(Zhengzhou University of Industrial Technology, Zhengzhou, Henan 451150, China)

In solving nonlinear unconstrained optimization problem by using quasi - Newton algorithm. Though the weighted form a class of new quasi-newton algorithm is constructed based on the quasi-newton equation and the method of literature. Furthermore, a new quasi-newton algorithm is proposed combining the modified BFGS correction formula of the new quasi-newton equation. The new global convergence of the algorithm is proved under certain conditions. Finally, through numerical experiments show that this new algorithm has much more advantages in the number of iterations.

unconstrained optimization; quasi-Newton equation; linear search; global convergence

1674-8085(2018)01-0021-03

O224

A

10.3969/j.issn.1674-8085.2018.01.005

2017-04-11；

2017-09-20

*徐莹莹(1988-)，女，河南焦作人，硕士生，主要从事最优化理论与算法研究(E-mail: xy010007@126.com);张惠(1990-)，女，河南新郑人，硕士生，主要从事计算数学研究(E-mail: piaoyao3652@126.com).