卢荣
(广州市城市规划勘测设计研究院,广东广州 510060)
回归分析在沉降预测数据处理中的应用
卢荣∗
(广州市城市规划勘测设计研究院,广东广州 510060)
在建筑物沉降预测中可以使用双曲线函数拟合,文章介绍了双曲线拟合模型,并提出了利用Excel软件进行回归分析的详细方法及计算步骤。利用Excel进行回归分析,在求得相关参数的同时可以得到参数检验,并可同时生成相关图表。
Excel;沉降预测;双曲线模型;回归分析
沉降监测要对监测数据进行分析处理,寻求沉降规律,并对沉降趋势作出预报。沉降变形的综合分析,仅对绝对沉降量分析是不够的,更重要的是建立以时间为函数的趋势曲线拟合模型,以真实地反映建筑物沉降量在时间上的变化特征,最终实现对建筑物运营安全的综合预测预报分析。对建筑物的沉降趋势预测通常有回归分析[1]、灰色预测理论[2,3]、指数平滑[4]及人工神经网络法[5]等。文献[6]提出,建筑物的沉降在荷载基本结束后的变形阶段,沉降量与时间的关系可以采用双曲线函数拟合。
由于沉降监测数据量大,精度要求高,进行数据处理一直是工作的难点之一。如果直接进行计算费时费力,且容易出错;借助软件编程计算对普通测绘工作者来说有一定的难度,本文提出利用Excel进行数据处理的方法。
2.1 双曲线模型介绍
通常的双曲线函数的数学表达式为[7,8]:
式中:x为自变量,y为因变量,a、b均为参数,其中a>0。设对应监测时间t的沉降量为S,则可建立沉降量与监测时间的拟合关系式:
式中,yi为与沉降量有关的因变量,xi为与时间有关的因变量,vi为随机因素对yi影响的总和(改正数),为回归系数。
根据n次观测值,按最小二乘原理,在[vv]最小的条件下解得:
2.2 沉降数据处理
(1)某仓库沉降观测项目,累计观测21次,共计324天。随机选择一个沉降观测点,将观测数据输入Excel表格中,在观测时间后添加列“累计日期”,并计算(如图1所示)。
图1 数据处理结果图
(2)计算累计日期与沉降量的倒数。在单元格E2中输入“=1/B2”,回车,待其变成细小的黑十字后双击,即可得到全部结果。沉降量倒数计算方法与累计日期计算相同,如图1所示。
春江水暖鸭先知。1979年,俊发集团董事长李俊的母亲石宝凤辞掉国企的铁饭碗,只身“下海”创办金马家具厂,拿到了云南第一份私营企业的营业执照。1983年,石宝凤成立了昆明市晶晶床垫家具制造有限责任公司。今天,在此根基上发展壮大的俊发集团已坐上了云南民营经济100强的“头把交椅”。
2.3 回归建模[8]
(1)做散点图
选中E列、F列数据,单击“图表向导”图标;或在“插入”-“图片”-“图标H”即可。点击“图表向导”以后,在弹出对话框左侧的“图表类型C”中选择“XY散点图”,点击“完成”,即可得到散点图。
(2)模型估计
用鼠标右击散点图中的数据点列,选择“添加趋势线(R)”。在弹出的添加趋势线对话框中,“类型”栏选择“线性(L)”,“选项”栏中在“显示公式(E)”及“显示R平方值(R)”中打钩,点击“确定”,即可得到结果,如图2所示。
图2 模型的初步估计结果
图3 线性回归结果
(3)回归建模
点击“工具”下拉菜单,单击“数据分析”选项(如无“数据分析菜单”可从“加载宏”选项中添加即可),弹出“数据分析”选项框,选择“回归”,确定,在弹出的对话框中选择数据区域,且选中残差栏及数据选项栏选项,设置完成后,即可得到全部回归结果,如图3所示。同时可以输出残差图、线性拟合图、正态概率图等。
由此即可得到a、b、相关系数R、测定系数R2、F值、t值、回归标准误差、回归平方和、剩余平方和、总平方和等信息。
建筑物日沉降量在0.01 mm~0.04 mm之间可视为建筑物已经稳定,可以停止沉降观测[9]。该沉降观测点在最后一次观测时日平均沉降量为0.046 7 mm,考虑该仓库地基土为粘土,且各沉降观测点不存在不均匀沉降情况,停止沉降观测,使用双曲线模型对沉降量进行预测。
根据Excel计算所得模型,预测未来沉降量,并进行测量验证预测结果。预测355日时累计沉降量为46.75 mm,实际测量累计沉降量为46.7 mm;预测387日时累计沉降量为47.41 mm,实际测量累计沉降量为47.8 mm;预测560日时累计沉降量为49.81 mm,实际测量累计沉降量为49.7 mm。
可以得出,在建筑物的沉降在荷载基本结束后的变形阶段,使用双曲线模型可以较好的进行沉降预测,预测结果与实际测量结果符合很好。
Excel有着强大的计算功能,可以方便地进行回归分析,一些复杂的数学方法,例如主成分分析、判别分析、自回归分析、神经网络分析、灰色系统建模和预测等都可以转化为线性回归分析。可以利用Excel给出的函数简单快捷的实现数据处理的批量化,极大地减少了计算工作量;利用Excel进行回归分析过程简单,只需要利用Excel的相关功能进行操作即可;可以计算出相关参数并给出参数检验结果,同时还可直接生成残差图、线性拟合图、正态概率图。
使用双曲线模型回归分析进行沉降预测,预测结果与实际测量结果符合精度较好,比较真实地反映了沉降趋势。建筑物的沉降在荷载基本结束后的变形阶段,使用双曲线模型可以较好拟合沉降量与时间的关系。
Excel在测绘领域有着广泛的应用,本文提出利用Excel回归分析方法进行沉降预测的方法,可减少计算的工作量。
另外,本文提出的基于双曲线模型的沉降预测,并非所有的沉降数据都遵循这一规律,在实际应用中,应该根据沉降数据的实际情况寻找规律,选择合适的预测模型进行预测。
[1] 冯丽丽,李天文,韩羽.高层建筑物沉降预测方法的比较[J].天津城市建设学院学报,2007,13(1):35~39
[2] 冯锦明,李炳芳.灰色预测模型在建筑物沉降监测中的应用[J].地矿测绘,2008,24(2):7~9
[3] 翟信德,高飞,徐文兵.新陈代谢GM(1,1)模型在建筑物沉降预测中的应用研究[J].城市勘测,2008(3):136~138
[4] 马国亮,方宝君.基于沉降监测的预测模型的选取[J].矿山测量,2009(4):38~40
[5] 李红霞,赵新华,迟海燕等.基于改进BP神经网络模型的地面沉降预测及分析[J].天津大学学报,2009,42 (1):60~64
[6] 于涛,赵仲荣.建筑物沉降规律的曲线拟合模型研究[J].测绘通报,2008(11):50~52
[7] 徐建华.现代地理学中的数学方法[M].北京:高等教育出版社,2002
[8] 陈彦光.基于Excel的地理数据分析[M].北京:科学出版社,2010
[9] 韩正,杜海霞,龙飞等.高层建筑沉降观测及其数据分析[J].城市勘测,2009(1):108~110
The Application of Regression Analysis to the Settlement Prediction Data Processing
Lu Rong
(Guangzhou urban planning and design survey research institute,Guangzhou 510060,China)
The hyperbola function fitting can be used in the process of the building settlement prediction.This paper introduces the hyperbola function fitting model and presents the detailed methodology and procedure of Excel to the regression analysis.This method can get the relevant parameter and parameter test.Meanwhile,the correlation graph can be generated.
Excel;settlement prediction hyperbola model regression analysis
1672-8262(2010)03-106-03
TU196.2
B
2011—01—11
卢荣(1972—),男,工程师,主要从事城市规划测量和测绘技术管理工作。