关于最小二乘逼近教学的研究

周小红

【摘要】本文首先对最小二乘逼近进行了定义，然后对如何用多项式来做最小二乘逼近进行了探讨，并举例.

【关键词】最小二乘;矩阵;法方程

定义： 在科学实验中经常要对实验数据 {（xi，yi），i=1，2，…，n}进行曲线拟合，求一个函数y=s*（x） 与所给数据{（xi，yi），i=1，2，…，n}拟合，令f（xi）=yi，记误差δi=s*（xi）-f（xi） （i=1，2，…，n），δ=（δ0，δ1，…，δn）T，设φ0（x），φ1（x），…，φm（x）是C[a，b]上线性无关函数族，在φ=span{φ0（x），φ1（x），…，φm（x）}中找一函数s*（x）使误差平方和：

‖δ‖22=∑ni=1δ2i=∑ni=1s*（xi）-yi2=mins（x）∈φ∑ni=1s（xi）-yi2.

这里s（x）=a0φ0（x）+a1φ1（x）+…+amφm（x） （m

最小二乘逼近原理：将定义中的φj（x）考虑为j次多项式的情形，即：φj（x）=xj.

由于它就转化成求多元函数：

I（a0，a1，…，am）=∑ni=1∑mj=0ajφj（xi）-yi2=∑ni=1∑mj=0ajxji-yi2

的极小值点（a*0，a*1，…，a*m）问题.由多元函数极值的必要条件有：

Iak=2∑ni=1∑mj=0ajφj（xi）-yiφk（xi） =2∑ni=1∑mj=0（ajxj+ki-yixki）=0.

若记（φj，φk）=（xj，xk）=∑ni=1φj（xi）φk（xi）=∑ni=1xj+ki，

（f，φk）=（yi，xki）=∑ni=1f（xi）φk（xi）=∑ni=1yixki=dk，

上式可改写成为：

∑mj=0（φk，φj）aj=∑mj=0（xk，xj）aj=dk （k=0，1，…，m）.（1）

这方程称为法方程.可写成矩阵形式： Ga=d.（2）

其中a=（a0，a1，…，am）T，d=（d0，d1，…，dm）T，

G=（x0，x0）（x0，x1）…（x0，xm）

（x1，x0）

（xm，x0）（x1，x1）

（xm，x1）…

…（x1，xm）

（xm，xm）.

现在证明（1）的系数行列式不为0，因为这样我们便可确定（2）具有唯一解.

设G是（1）的系数矩阵，若detG=0，则齐线形方程组： Ga=0.

存在非零解，其中a=（a0，a1，…，am）T.（3）

设（3）的非零解为 a*=（a*0，a*1，…，a*m）T，则有：

∑mj=0（∑ni=1xj+ki）a*j=0（k=0，1，…，m）.（4）

将（4）式两边同时乘以a*k得：∑mj=0（∑ni=1xj+ki）a*ja*k=0，然后对所有k相加得： 0=∑mk=0∑mj=0（∑ni=1xj+ki）a*ja*k=∑ni=1（∑mk=0a*kxki）（∑mj=0a*jxji）=∑ni=1y2（xi），

其中y（xi）=∑mj=0a*jxji.我们知道，若∑ni=1y2（xi）=0，则有y（xi）=0（i=1，2，…，n）.

由于n>m+1，根据代数学基本定理：除非所有a*j=0，否则一个m 次多项式不能有n（n>m）个零点.但是a*j=0 （j=0，1，…，m）与a*=（a*0，a*1，…，a*m）T是Ga=0的非零解矛盾，于是证得：detG≠0.

证明了（2）具有唯一解后，我们还可证明该解是I（a0，a1，…，am）的极小值点.

考虑仅有两个函数x0和x的情况.这时I是x0，x的函数，可表为：

I=I（a0，a1），令法方程的解为a*0，a*1，即它们满足：I（a*0，a*1）aj≡0 （j=0，1）.

考察I（a*0+δ0，a*1+δ1）- I（a*0，a*1）=∑ni=1[δ0x0i+δ1xi]2≥0.（5）

上式中的等号只有当∑ni=1[δ0x0i+δ1xi]2=0时才能达到，然而由代数学知识知多项式：x0+x1+x2+…+xm=0的解不多于m个（这里m=2

I（a*0+δ0，a*1+δ1，…，a*m+δm）- I（a*0，a*1，…，a*m）≥0，

并且当aj=a*j（j=0，1，…，m）时I（a0，a1，…，am）取到极小值I（a*0，a*1，…，a*m）.

当m=0时即为零次最小平方逼近多项式I（x）= a0，其法方程为：na0 = ∑ni=1yi

解得： a0 = y1+y2+…+ynn.

由上式可见，零次最小平方逼近多项式就是我们常用的平均值.

【参考文献】

[1]王能超，李庆扬，易大义.数值分析.第四版，北京：清华大学出版社，2001.

[2]G.H.戈卢布，C.F.范洛思.矩阵计算.北京：科学出版社，2002.