数学建模中的常用最小二乘方法

摘 要 在数学模型的构建过程中经常会遇到对测量、收集、计算数据的分析、整理等问题。解决这类问题的常用方法便是借助计算程序，把大量实验数据进行可视化或者函数化处理，以期得到直观认识。其中最小二乘法是数据拟合问题中比较常用的一类方法。本文总结对比了最小二乘近似（LS）与移动最小二乘近似[1]（MLS）两类常用最小二乘方法。通过数值实验发现，LS相比较而言相对粗糙，不能有效表达大波动奇异数据的特征，建议在数学建模工作中处理该类问题的时候采用MLS方法。

关键词 最小二乘近似 移动最小二乘近似 数学建模

0 引言

LS方法因为其出现时间较早、相关理论成熟，matlab也有可以直接调用的函数，是目前使用最为广泛的一类拟合算法工具。随着其它研究的需要，学者们又由LS方法进一步演绎出了如MLS法、偏最小二乘回归[2][3]（PLS，partial least squares approximation）等其它的最小二乘类方法。MLS法、偏最小二乘回归两个方法的事前近似函数构造原理不同，但在最优结果的计算上均使用了最小二乘原理。因为有可以直接调用的函数或成熟的程序，在现行的数学建模中使用的比较多的是LS法和MLS法。

1 基本原理

1.1 最小二乘近似

LS法最早被用来研究两个变量（）之间的相互关系，从中得到较理想的拟合直线（函数）。通常在实验过程中得到一组数据对，希望由该组数据寻找出一个理想的直线方程，使得该数据对对应的点列到这一直线距离的平方和最小。因为该线性最小二乘问题是凸的，故存在唯一的封闭解。在科学实验数据的处理、分析中，LS可以將实验数据拟合出给定次数的多项式函数。

LS的目标拟合函数格式为，为拟合多项式的最高次数。在matlab中常用的函数是polyfit，其调用格式为：

其中输入部分（）为实验数据、为给定的拟合多项式的最高次数。输出部分中为所得拟合多项式由高次到常数项的系数；为结构数组，包括（系数矩阵的分解的上三角阵），（自由度）和（拟合误差平方和的算术平方根）。

若想直接拟合成多项式形式，可以采用下面的复合函数：

其中''表示拟合函数自变量为。

需要注意的是，LS模型由于其自身要求，只能拟合最高次数小于有效实验数据数阶数的问题，即最小二乘法只能用来处理超定问题。

1.2 移动最小二乘近似

MLS方法突破了多项式拟合的局限，目标拟合函数的格式为，其中 为给定的基函数，为基函数的项数，为待定系数函数。对目标拟合函数与实验数据结点采用加权最小二乘近似。取的最小值，从而求得目标函数中的系数函数，回代，得到目标拟合函数。其中N为数据结点个数，为紧支撑权函数，[4]它的支撑域仅在结点附近。

正是由于紧支权函数的引入才使得MLS能够较好地体现拟合的局部特性。故在MLS中紧支撑权函数、基函数系的选择十分重要，也正由于影响因素的增多，使得MLS在真正数值实现中需要设置一些经验参数。

目前在matlab中还没有MLS方法的软件包，有兴趣的同志可以翻阅一下张雄、刘岩编著的《无网格法》或王建明、周学军译的《无网格法理论与程序设计》等书籍的相关章节，里面列有对MLS介绍及相应的matlab环境下的程序及.m文件，计算时可以直接复制运行。

2 数值实例

2.1 数据拟合

例1，表1 为某商品的折旧价格调查资料，以表示使用年数，表示相应年份二手市场价格，分别用LS和MLS拟合与之间的关系见图1。

例2，表2为一组实验数据，其中含有奇异数据（时），现给出分别采用LS与MLS拟合结果见图2。

2.2 误差分析

就上述两个例题，针对两种拟合的误差状况给出分析数据见表3。

3 结论

由表3可见：对于波动变化不剧烈的数据，采用两种方法的拟合效果相当，和方差差别不大；对LS而言，提高拟合多项式的次数不一定能有效提高拟合精度；对于含有奇异点的数据进行曲线拟合，MLS较LS优势明显，和方差相差约倍。若建模过程中，实验数据带有奇异点，建议采用更能够体现局部特征的MLS。

与LS相比，MLS问题内容更加丰富，其中有很多的问题可以进一步研究、完善，近年来该方面的研究[5] [6]引起了一些学者的关注，其应用领域[7]也越来越广泛。同时，MLS是数据拟合问题及数值近似问题常用的构造方法，有兴趣的同志可以进行深入研究。

参考文献

[1] 程玉民.无网格方法（上）[M].北京：科学出版社，2015：19-20.

[2] 李雪.一种改进的偏最小二乘回归方法研究[J].仪器仪表用户，2017.24（5）；16-19.

[3] 丁立.单因变量偏最小二乘回归程序设计及其应用[J].勘察科学技术，2015（1）：47-51.

[4] 赵国群，王卫东.金属塑性成形过程无网格数值模拟方法[M].北京：化学工业出版社，2013：40-43.

[5] 韩加坤.无网格法中MLS参数的选取[J].数学学习与研究，2016（23）：145-145.

[6] 冷亚洪.移动最小二乘代理模型支持域半径的优化方法[J].计算机科学，2016（S1）：95-98.

[7] 周研，双远华.基于最小二乘无网格法的金属变形过程模拟[J].太原理工大学学报，2016（3）：294-298.