王有刚
摘要:该文试探一种加权融合流形学习的方法进行人脸识别,该算法通过Haar小波和局部线性嵌入(LLE)加权融合的方式来进行人脸识别。首先通过Haar小波变换对人脸图像进行一级分解,得到四个子图;然后利用LLE算法对四个子图降维处理,并加权融合;最后利用支持向量机(SVM)进行分类判决。通过在ORL库中进行实验,结果表明,该文提出的Haar+ LLE识别效率比单独使用主成分分析(PCA)和LLE更高效。
关键词:人脸识别;流行学习;局部线性嵌入算法;Haar小波;降维
中图分类号:TP391 文献标识码:A 文章编号:1009-3044(2014)16-3881-03
Abstract: A novel algorithm based on manifold learning is explored for face recogni- tion.The algorithm used method of Haar wavelet and Locally Linear Embedding(LLE) of weighted fusion for face recogni- tion.Firstly,the face graph is gone to be one level decomposition by Haar wavelet transform and become four subgraphs;Secondly,the four subgraphs of dimensionality are reduced by method of LLE;Finally,the features are classifyed and recognized by SVM.Experimental results on the ORL face database show that the new algorithm has a recognition ability than the algorithm of PCA and LLE.
Key words: face recognition; manifold learning; Locally Linear Embedding; Haar wavelet; algorithm; reduction dimensionlity
随着现代网络信息技术的快速发展,人脸识别技术在许多领域都有广泛的应用,且有好的应用前景,特别是在身份识别和侦查或追踪方面[1]。
但人脸识别技术发展的同时,人脸图像数据维数高和数据的非线性问题伴随的出现,单一的用某一个经典算法不能更好的解决这个问题。该文探索了一种算法结合的方法。首先,对人脸图像作Haar小波变换,就得到同一人脸图像四个子图;其次,分别用LLE算法对这四个子图进行人脸数据降维[2];然后,把这四部分特征按照信息量加权融合;最后,利用支持向量机(SVM)进行分类识别[3]。
1基础理论
1.1 Haar小波变换
在一般正交函数里,Haar小波函数有其优点[4],表达式是最简易的正交表达式之一,有对应的特定滤波器,且该滤波器具有不是非线性相位性、运算快速和架构简单等特质。因此,对于Haar小波函数的研究,有关人员的研究越来越多且深入,而且和实际相结合应用到生活中[5]。
对任意一幅人脸图像进行一层Haar小波变换,得到4个子图像。以下具体以Lena图来阐述,其一层分解和分解子图分别如图1和图2所示。
在图1中,四个分量所针对的侧重点不一样,因此所含人脸图像数据来源和数据量都不同。LL地方分量为低频量,包蕴原来人脸图像的核心信息,也就是原来人脸图像的靠近图;HL为垂直方向地方的分量,包蕴人脸图像的器官中耳朵、鼻子,还有外框轮廓等消息;LH 为水平方向的,包蕴人脸的眼睛等面部靠人脸图像中间部位的器官信息;HH为对角线方向的,所含信息微不足道。具体通过Lena图说明,其一级分化图如图2所示。
1.2 局部线性嵌入
局部线性嵌入(LLE)算法是2000年提出解决非线性数据经典算法之一,其算法如下。
在LLE算法中,假如观测数据是由N个D维实数据[Xii=1,…,N∈RD]组成,则LLE算法的具体过程如下:
① 计算K近邻。
② 运算再次构建的权重系数。针对每一个观察数据[xi],利用该数据的K个近邻对其进行重建,其中误差代价函数为:
1.3 支持向量机
支持向量机(SVM)是分类识别的一种技术[6],起源于统计学习理论,在处理不是线性、高维数和小样本等问题时,有很大优势。在用SVM进行分类识别时,重要之一就是选择合适的支持向量机参数。根据参数,提取人脸特征数据,把提取的人脸特征数据分为训练集和测试集,用训练样本训练并得到支持向量机模型,即训练集;再把测试样本提供给支持向量机,由训练好的支持向量机模型给出识别结果。
2 算法实现
传统的方法是,小波变换和局部线性嵌入提取特征的方法都是在小波分解后直接去掉高频分量,只在分解后的低频分量上利用LLE 算法提取人脸特征[7]。这种直接去掉高频信息只利用低频部分进行分类识别的方法存在不足,这是由于小波分解后的高频分量中包含着对识别有利的边缘信息。在图2中,可以从分解后的水平分量LH 和垂直分量HL 中看出明显的边缘信息。于是,为了获取高效的辨认效益,必须全面使用Haar小波分解后的有效消息。从以上所述可得,在Haar小波分解后,进行LLE 降低维数处理时候[8],探索用一种特定的加权融合的方式进行人脸识别的后续工作,其流程图如图3所示。
通过图3可看出,该算法是将经过一层Haar小波分解后的4个分量LL、LH、HL和HH分别进行LLE处理,其结果是:endprint
令4个权重之和为:[η1]+[η2]+[η3]+[η4]=1。分配权重时,由于低频分量[LL']具有原图像大部分信息,赋予大的值;[HH']具有的是对角线有关的信息,信息量最少,因此系数值赋值比其它的都小;[LH']具有眼睛等重要器官水平方向信息,同时[HL']具有耳朵等外边缘轮廓数值方向的信息,相比较,信息量适中,由此权重值设置比[LH']小的值。
具体算法实现步骤是:
① 按照表达式(1),用Haar小波,对处理后待识别的图像进行一层分解;
② 对步骤①产生的分量LL、LH、HL和HH,用式(6)进行LLE降维转化,转化完后,获得四个新的分量:[LL']、[LH']、[HL']和[HH'];
③ 按照特定原则,给(8)式中系数设置值,且四个系数之后为1,用(8)式对四个分量加权融合,然后用Haar小波重构,获得人脸数据信息Y;
④ 将Y看做原来图的特性值,给定恰当SVM算法的参数,建立一个训练集模型,并把测试集放入测试,由SVM给出测试结果。
3 实验结果
本实验选用的是ORL人脸数据库,对于ORL人脸库,该库由Olivetti实验室完成,拍摄的是一系列人脸图像,整体有40个不一样性别和不一样岁数及不一样种族的人脸图象,每一人10幅图象,总计是400幅图象,每一个人脸图像面部表情和局部细节各不相同,人脸姿势也是有变化的。在进行试验里,肯定ORL库里二十个人,并每一个人脸图象里随便得到幅作锻炼集,5幅作试验集,试验集和锻炼集各有100幅人脸图象。
为了便于比较,该文对LLE算法、PCA算法和Haar小波+LLE算法(本文算法:Haar小波提取人脸特征后再使用LLE算法进行变换,然后用加权融合)同时进行了实验。实验数据如表1所示。每组数据随机重复300次后得到的平均值。
其中,d=50表示应用LLE、PCA和Haa+LLE算法降维后数据维数为50。
从表1实验结果可以看出,当数据维数降为50时,该文提出的Haa +LLE算法与PCA、LLE算法相比,识率分别提高了:4.44%和5.25%。
以上是维数降到d=50的情况,图4是维数降到10到100维的情况。
从表1和图4可以看出,在一样的试验环境里,该文探索的LLE+Haar方法的识率有区别的高于LLE和PCA方法的辨认率,同时标准差值小,说明识别效果好,算法稳定性更好。以上进步说明,该文探究的LLE+Haar算法的比其它两种算法辨认更高效。
4 结束语
本文Haar+LLE算法是一种Haar小波算法和LLE算法相结合的一种人脸识别算法。该算法将人脸图像经过Haar小波变换后得到多个分解子图像,把每个子图均看成独立的样本,相当于把一个样本变成了多个样本;然后利用局部嵌入(LLE )算法进行约简降维处理,加权融合一个新的样本;最后,利用支持向量机(SVM)进行识别。
实验中, 在ORL人脸库上对本文提出的Haar+LLE算法和LLE算法、PCA算法进行了比较,结果表明,该文算法性能更优。
参考文献:
[1] 邓伟洪.高精度人脸识别算法研究[D].北京:北京邮电大学,2009.
[2] Liu C.Capitalize on dimensionality increasing techniques for improving face recognition grand challenge performance [J].IEEE Trans Pattern Analysis and Machine Intelligence,2006, 28(5): 725-737.
[3] Cristianini N,Taylor J S.An introduction to support vector machine[M].Carnridge: Carnridge University Press,2000.
[4] 甘玲,朱江.扩展Haar特征检测人眼的方法[J].电子科技大学学报,2010,39(2):247-250.
[5] 刘贵忠,邸双亮.小波分析及其应用[M].西安:西安电子科技大学出版社,1997.
[6] Scholkopf B,Smole Alearning with kernels:support vector machines,regularization, optimaza tion and beyond[M][SI]:MIT Press,2002.
[7] 李华胜,杨桦,袁保中.人脸识别中的特征提取[J].北方交通大学学报,2001,25(2):18-21.
[8] 李勇周,罗大勇.人脸识别中基于流行学习的子空间特征提取方法研究[D].长沙:中南大学,2009.endprint
令4个权重之和为:[η1]+[η2]+[η3]+[η4]=1。分配权重时,由于低频分量[LL']具有原图像大部分信息,赋予大的值;[HH']具有的是对角线有关的信息,信息量最少,因此系数值赋值比其它的都小;[LH']具有眼睛等重要器官水平方向信息,同时[HL']具有耳朵等外边缘轮廓数值方向的信息,相比较,信息量适中,由此权重值设置比[LH']小的值。
具体算法实现步骤是:
① 按照表达式(1),用Haar小波,对处理后待识别的图像进行一层分解;
② 对步骤①产生的分量LL、LH、HL和HH,用式(6)进行LLE降维转化,转化完后,获得四个新的分量:[LL']、[LH']、[HL']和[HH'];
③ 按照特定原则,给(8)式中系数设置值,且四个系数之后为1,用(8)式对四个分量加权融合,然后用Haar小波重构,获得人脸数据信息Y;
④ 将Y看做原来图的特性值,给定恰当SVM算法的参数,建立一个训练集模型,并把测试集放入测试,由SVM给出测试结果。
3 实验结果
本实验选用的是ORL人脸数据库,对于ORL人脸库,该库由Olivetti实验室完成,拍摄的是一系列人脸图像,整体有40个不一样性别和不一样岁数及不一样种族的人脸图象,每一人10幅图象,总计是400幅图象,每一个人脸图像面部表情和局部细节各不相同,人脸姿势也是有变化的。在进行试验里,肯定ORL库里二十个人,并每一个人脸图象里随便得到幅作锻炼集,5幅作试验集,试验集和锻炼集各有100幅人脸图象。
为了便于比较,该文对LLE算法、PCA算法和Haar小波+LLE算法(本文算法:Haar小波提取人脸特征后再使用LLE算法进行变换,然后用加权融合)同时进行了实验。实验数据如表1所示。每组数据随机重复300次后得到的平均值。
其中,d=50表示应用LLE、PCA和Haa+LLE算法降维后数据维数为50。
从表1实验结果可以看出,当数据维数降为50时,该文提出的Haa +LLE算法与PCA、LLE算法相比,识率分别提高了:4.44%和5.25%。
以上是维数降到d=50的情况,图4是维数降到10到100维的情况。
从表1和图4可以看出,在一样的试验环境里,该文探索的LLE+Haar方法的识率有区别的高于LLE和PCA方法的辨认率,同时标准差值小,说明识别效果好,算法稳定性更好。以上进步说明,该文探究的LLE+Haar算法的比其它两种算法辨认更高效。
4 结束语
本文Haar+LLE算法是一种Haar小波算法和LLE算法相结合的一种人脸识别算法。该算法将人脸图像经过Haar小波变换后得到多个分解子图像,把每个子图均看成独立的样本,相当于把一个样本变成了多个样本;然后利用局部嵌入(LLE )算法进行约简降维处理,加权融合一个新的样本;最后,利用支持向量机(SVM)进行识别。
实验中, 在ORL人脸库上对本文提出的Haar+LLE算法和LLE算法、PCA算法进行了比较,结果表明,该文算法性能更优。
参考文献:
[1] 邓伟洪.高精度人脸识别算法研究[D].北京:北京邮电大学,2009.
[2] Liu C.Capitalize on dimensionality increasing techniques for improving face recognition grand challenge performance [J].IEEE Trans Pattern Analysis and Machine Intelligence,2006, 28(5): 725-737.
[3] Cristianini N,Taylor J S.An introduction to support vector machine[M].Carnridge: Carnridge University Press,2000.
[4] 甘玲,朱江.扩展Haar特征检测人眼的方法[J].电子科技大学学报,2010,39(2):247-250.
[5] 刘贵忠,邸双亮.小波分析及其应用[M].西安:西安电子科技大学出版社,1997.
[6] Scholkopf B,Smole Alearning with kernels:support vector machines,regularization, optimaza tion and beyond[M][SI]:MIT Press,2002.
[7] 李华胜,杨桦,袁保中.人脸识别中的特征提取[J].北方交通大学学报,2001,25(2):18-21.
[8] 李勇周,罗大勇.人脸识别中基于流行学习的子空间特征提取方法研究[D].长沙:中南大学,2009.endprint
令4个权重之和为:[η1]+[η2]+[η3]+[η4]=1。分配权重时,由于低频分量[LL']具有原图像大部分信息,赋予大的值;[HH']具有的是对角线有关的信息,信息量最少,因此系数值赋值比其它的都小;[LH']具有眼睛等重要器官水平方向信息,同时[HL']具有耳朵等外边缘轮廓数值方向的信息,相比较,信息量适中,由此权重值设置比[LH']小的值。
具体算法实现步骤是:
① 按照表达式(1),用Haar小波,对处理后待识别的图像进行一层分解;
② 对步骤①产生的分量LL、LH、HL和HH,用式(6)进行LLE降维转化,转化完后,获得四个新的分量:[LL']、[LH']、[HL']和[HH'];
③ 按照特定原则,给(8)式中系数设置值,且四个系数之后为1,用(8)式对四个分量加权融合,然后用Haar小波重构,获得人脸数据信息Y;
④ 将Y看做原来图的特性值,给定恰当SVM算法的参数,建立一个训练集模型,并把测试集放入测试,由SVM给出测试结果。
3 实验结果
本实验选用的是ORL人脸数据库,对于ORL人脸库,该库由Olivetti实验室完成,拍摄的是一系列人脸图像,整体有40个不一样性别和不一样岁数及不一样种族的人脸图象,每一人10幅图象,总计是400幅图象,每一个人脸图像面部表情和局部细节各不相同,人脸姿势也是有变化的。在进行试验里,肯定ORL库里二十个人,并每一个人脸图象里随便得到幅作锻炼集,5幅作试验集,试验集和锻炼集各有100幅人脸图象。
为了便于比较,该文对LLE算法、PCA算法和Haar小波+LLE算法(本文算法:Haar小波提取人脸特征后再使用LLE算法进行变换,然后用加权融合)同时进行了实验。实验数据如表1所示。每组数据随机重复300次后得到的平均值。
其中,d=50表示应用LLE、PCA和Haa+LLE算法降维后数据维数为50。
从表1实验结果可以看出,当数据维数降为50时,该文提出的Haa +LLE算法与PCA、LLE算法相比,识率分别提高了:4.44%和5.25%。
以上是维数降到d=50的情况,图4是维数降到10到100维的情况。
从表1和图4可以看出,在一样的试验环境里,该文探索的LLE+Haar方法的识率有区别的高于LLE和PCA方法的辨认率,同时标准差值小,说明识别效果好,算法稳定性更好。以上进步说明,该文探究的LLE+Haar算法的比其它两种算法辨认更高效。
4 结束语
本文Haar+LLE算法是一种Haar小波算法和LLE算法相结合的一种人脸识别算法。该算法将人脸图像经过Haar小波变换后得到多个分解子图像,把每个子图均看成独立的样本,相当于把一个样本变成了多个样本;然后利用局部嵌入(LLE )算法进行约简降维处理,加权融合一个新的样本;最后,利用支持向量机(SVM)进行识别。
实验中, 在ORL人脸库上对本文提出的Haar+LLE算法和LLE算法、PCA算法进行了比较,结果表明,该文算法性能更优。
参考文献:
[1] 邓伟洪.高精度人脸识别算法研究[D].北京:北京邮电大学,2009.
[2] Liu C.Capitalize on dimensionality increasing techniques for improving face recognition grand challenge performance [J].IEEE Trans Pattern Analysis and Machine Intelligence,2006, 28(5): 725-737.
[3] Cristianini N,Taylor J S.An introduction to support vector machine[M].Carnridge: Carnridge University Press,2000.
[4] 甘玲,朱江.扩展Haar特征检测人眼的方法[J].电子科技大学学报,2010,39(2):247-250.
[5] 刘贵忠,邸双亮.小波分析及其应用[M].西安:西安电子科技大学出版社,1997.
[6] Scholkopf B,Smole Alearning with kernels:support vector machines,regularization, optimaza tion and beyond[M][SI]:MIT Press,2002.
[7] 李华胜,杨桦,袁保中.人脸识别中的特征提取[J].北方交通大学学报,2001,25(2):18-21.
[8] 李勇周,罗大勇.人脸识别中基于流行学习的子空间特征提取方法研究[D].长沙:中南大学,2009.endprint