吕秀丽,崔红飞,赵丽华,全星慧,曹志民
(1.东北石油大学 电子科学学院,黑龙江 大庆 163318;2.黑龙江省高校校企共建测试计量技术及仪器仪表工程研发中心 黑龙江 大庆 163318)
基于2DLDA与SVM的人耳识别算法
吕秀丽1,2,崔红飞1,2,赵丽华1,2,全星慧1,2,曹志民1,2
(1.东北石油大学 电子科学学院,黑龙江 大庆163318;2.黑龙江省高校校企共建测试计量技术及仪器仪表工程研发中心 黑龙江 大庆163318)
文中提出将二维线性鉴别分析(2DLDA)和支持向量机(SVM)相结合的人耳识别算法。先利用二维线性鉴别分析提取人耳图像的特征,再采用一对一的方法用支持向量机分类器实现人耳特征的分类识别。与传统的2DLDA对比实验结果表明,该方法具有更高的识别率,是一种非常有效的识别方法。
人耳识别;二维线性鉴别分析;提取特征;支持向量机
人耳识别是一种新兴的生物特征识别技术,由于人耳外耳的轮廓形状及纹理存在显著的个体差异,具有唯一性和稳定性,同时,人耳图像容易采集,使得人耳既可以单独用于个体身份鉴别,也可以用于和其他生物特征识别技术相结合的场合[1-2]。
提取人耳图像的特征是人耳识别中的重要环节。线性鉴别分析(LDA)是常用的提取分类特征的方法,但是,LDA对图像特征的提取需要对二维图像进行降维处理,通常图像维数远大于样本数,易造成类内散布矩阵奇异,使求解困难。二维线性鉴别分析(2DLDA)避免了二维图像降维造成的维数灾难,解决了类内散布矩阵的奇异问题[3-5]。本文采用2DLDA提取人耳图像特征向量。
支持向量机(SVM)是基于统计学习理论的一种机器学习方法,具有结构风险最小化特点,能够有效地解决小样本分类问题[6-7]。人耳图像特征向量属于小样本非线性分类问题,可以利用SVM进行有效的分类。本文提出将人耳图像利用2DLDA提取特征向量,利用SVM进行人耳特征分类识别的算法,以提高的人耳图像的识别率。
1.1基于2DLDA的人耳图像特征提取
设训练样本是由 N个 m×n维的人耳图像{x1,x2,…,xN}所组成,分别属于 C类{X1,X2,…,XC},若第i类样本数为Ni,则第i类样本类内均值μi和全部训练样本均值μ分别为,
训练样本类内散布矩阵为Sw和类间散布矩阵为Sb分别为[3-4]:
其中,N为训练样本总数,即
寻找最佳投影矢量w使得(6)式最大化。为获得最佳投影矢量w,当类内散布矩阵非奇异时,存在可逆矩阵Sw,由特征值求解问题[3-4]。
计算矩阵S-1wSb的最大特征值λ所对应的特征向量,即为最佳投影矢量w。实际上在提取人耳图像特征时,为使提取的特征充分表达人耳图像,得到充足的判别信息,通常取S-1wSb矩阵的前k个最大特征值对应的特征向量组成最佳投影矢量集W,再通过变换
将m×n维的人耳图像矩阵x投影到n×k维的最佳投影方向矩阵W上,得到m×k维投影矢量矩阵y,即为人耳图像x的特征向量[8]。
1.2基于SVM的人耳分类识别
SVM在基于小样本的分类问题中得到了广泛的应用。对于两类线性可分训练样本 {(xi,yi),i=1,2,…,l},x∈R,yi∈{-1,1}若存在w∈Rn和b∈R,使得yi(w·xi+b)-1≥0,i= 1,2,…,l,则寻找使分类间隔最大的最优分类面等价于求解
则准则函数定义为[3-4]:2。引入拉格朗日乘子α,构造并求解最优化问题[6-7]。
则最优分类函数为:
式中sgn()为符号函数。
事实上,人耳特征向量不是线性可分的,而属于非线性分类样本,针对这种非线性问题,SVM通常将其转化为某个高维空间中的线性问题,并引入核函数K(xi,xj),在高维空间寻找最优分类超平面,求解最优化问题[6-7]。
最终可得分类决策函数
由于SVM是针对两类模式识别问题设计的,对于人耳图像这种多类识别问题,可以采用一对一(One-against-One)方法,将全部C类问题分解为C(C-1)/2个两类问题,每两个类别之间都由一个两类分类器进行判别分开。
2.1人耳图像库
目前,USTB人耳图像库广泛应用于识别研究,库1是由60个人的大小为150×80的右耳灰度图像组成,每个人有3幅图像,包括正面人耳1幅,拍摄角度轻微变化1幅、拍摄光照变化1幅,共计180幅图像。库中部分图像如图1所示。
图1 USTB人耳图像库1中的图像Fig.1 Images in USTB ear image library one
2.2实验过程及分析
人耳识别过程方框图如图2所示。
图2 人耳识别方框图Fig.2 The block diagram of human ear recognition
实验步骤如下:
1)选择样本。在人耳图像库中选定训练样本与测试样本。
2)提取人耳图像特征。训练样本用2DLDA方法根据式(1)~(7)计算最佳投影矢量集W,根据式(8)将人耳图像投影到矢量集W上,即分别得到训练样本与测试样本的人耳图像特征向量。
3)训练SVM。根据训练样本特征向量,采用一对一方法,训练SVM分类器得到SVM模型,即得到分类判决函数。
4)人耳识别。测试样本特征向量由已经获得的SVM模型进行分类判决得到识别结果。
具体实验分为3组,每组训练样本与测试样本的组成如表1所示。
实验应用matlab7.0软件编写程序,在2 G内存,CPU 3.01 GHz的计算机上运行,SVM选择径向基核函数,实验结果如图3所示。图中给出了当取前k(k=1,2,…,10)个最大特征值对应的特征向量组成最佳投影矢量时,算法的正确识别率。为进行比较,也给出了传统2DLDA算法的实验数据。其中2DLDA算法是先计算测试样本与训练样本人耳特征向量之间的欧氏距离,再应用最近邻法则对测试样本进行人耳图像特征匹配分类的人耳识别算法。
表1 USTB人耳图像库1样本选择Tab.1 Sample selection in USTB ear image library 1
图3 人耳图像识别率比较图Fig.3 Comparison charts about the human ear image recognition rate
由图3可知,实验1中,当k取5时,2DLDA+SVM算法只有一幅人耳图像识别出现错误,最高识别率达到了98.33%,高于2DLDA的最高识别率96.67%。在实验2中,当k取6、7、8时,两种算法的识别率相同,但是当k取其它值时,2DLDA+ SVM算法的识别率更高。在实验3中,2DLDA+SVM算法的最高识别率达到了 90.00%,高于2DLDA的最高识别率88.83%。由图3还可以看出,对于每一组实验,2DLDA+SVM 比2DLDA算法的平均识别率都高。因此,提出的算法有效地提高了识别率。
人耳识别是现代生物特征识别技术的研究热点之一,本文提出将二维线性鉴别分析和支持向量机相结合的方法用于人耳识别,实验结果证明了提出的算法人耳识别率最高达到了98.33%,优于传统2DLDA算法的识别率,是一种非常有效的识别方法。
[1]王瑜,穆志纯,付冬梅,等.基于小波变换和规范型纹理描述子的人耳识别[J].电子学报,2010,38(1):239-243.
[2]刘颖,裴明涛,贾云得.侧面轮廓与人耳特征相结合的人耳检测与识别[J].中国图象图形学报,2009,14(2):196-201.
[3]苑玮琦,郭伟芳,柯丽.基于二维Fisher线性判别的人耳识别[J].光电工程,2009,36(2):132-136.
[4]HUI Kong,WANG Lei,Teoh E K,et al.A framework of 2D Fisher discriminant analysis:application to face recognition with small number of training samples[C]//Proceedings of the IEEE Computer Society Conf-erence on Computer Vision and Pattern Recognition.San D-iego,CA,USA,2005:1083-1088.
[5]WANG Xiao-ming,HUANG Chang,LIU Jin-gao.Gabor-2DLDA:Face recognition using gabor features and 2D linear discriminant analysis[C]//Proceedings of the Second International Conference on Intelligent Computation Technology and Automation.Zhangjiajie,China,2009:608-610.
[6]邓乃扬,田英杰.数据挖掘中的新方法—支持向量机[M].北京:科学出版社,2004.
[7]袁立,穆志纯,刘磊明.基于核主元分析法和支持向量机的人耳识别[J].北京科技大学学报,2006,28(9):890-894.
[8]吕秀丽,申屠红峰,赵丽华,等.基于2DLDA与FSVM的人耳识别[J].科学技术与工程,2012,12(12):2852-2855.
Ear recognition algorithm based on 2DLDA and SVM
LV Xiu-li1,2,CUI Hong-fei1,2,ZHAO Li-hua1,2,QUAN Xing-hui1,2,CAO Zhi-min1,2
(1.College of Electronic Science,Northeast Petroleum University,Daqing 163318,China;2.The University-enterprise R& D Center of Measuring and Testing Technology&Instrument and Meter Engineering in Heilongjiang Province,Daqing 163318,China)
In this paper,we propose a human ear recognition algorithm which combined two-dimensional linear discrimination analysis(2DLDA)and support vector machine(SVM).First of all,use 2DLDA for feature extraction in the human ear image, then applying one-against-one method,use SVM classifier for the classification recognition according to the human ear feature. Compared with classical 2DLDA,experimental results show that our method has higher recognition rate and it is a very efficient recognition method.
ear recognition;two-dimensional linear discrimination analysis(2DLDA);feature extraction;support vector machine(SVM)
TN911.73
A
1674-6236(2016)03-0163-03
2015-04-02稿件编号:201504012
黑龙江省科技厅自然科学基金项目(F201108)
吕秀丽(1971—),女,黑龙江大庆人,博士,教授。研究方向:信号与信息处理、生物特征识别技术、数字水印与信息隐藏、计算机测控。