一种基于布尔核SVM的人脸识别策略

任天成，刘 新，崔克彬（.山东电力研究院，山东 济南 5000；.华北电力大学，北京 07003）

0 引言

在高度信息化的现代社会，人们的身份鉴别已经渗透到日常生活的各个方面。同时，由于交通、通信和网络技术的飞速发展，人们的活动范围也越来越大，身份鉴别的难度和重要性也越来越突出。人脸识别在公安部门、安全验证系统、信息卡验证、档案管理、虚拟现实、智能人机接口、视频会议系统及监控系统等方面有着非常重要的理论研究价值和实用价值。因此，人脸识别也成为当前模式识别和人工智能领域研究的热点问题之一。

人脸如同指纹、虹膜、手形及DNA一样具有唯一性，同时由于它的无侵害性、成本低和对用户最自然、最直观的方式，使人脸识别在众多的生物测定技术中倍受青睐。人脸识别的基本方法有两大类，一种是基于几何特征参数［1］的方法，如提取眼、嘴、鼻等人脸主要部位的特点及其构成的二维拓扑结构，再按照某种距离准则进行分类。 但由于在参数提取、特征匹配这两方面都仍有许多问题需要解决，因此这种方法的应用范围和识别效果还十分有限。另一种是基于模板匹配［2］的方法。这种方法从人脸图像的整体出发，通过计算模板和图像灰度的自相关性进行分类识别。其中，基于小波特征的弹性匹配方法［3］识别效果是比较理想的，但计算十分复杂。 而主成分分析（principle component analysis）方法则以其计算简单、识别率较好而在各种方法中独具优势。这种方法通过计算图像矩阵的本征值及其本征向量提取特征参数，在待识别人脸和训练样本之间采用欧氏距离来进行分类。

近年来，支持向量机［4-6］由于其出色的学习、分类性能，已成为机器学习领域的一个研究热点，并在许多领域中得到应用，如人脸检测与识别、手写体自动识别、文本自动分类等。支持向量机分为线性支持向量机和非线性支持向量机两种，其中，非线性支持向量机其核心是核函数的选取，本文使用了一种特殊的核函数—布尔核函数对人脸进行识别。首先采用PCA算法对人脸图像进行特征参数的提取；然后，将其特征0-1化，采用基于非线性布尔核的SVM进行分类。由于支持向量机本身是一个两类问题的判别方法，在处理多类问题时，需要构造多个两类SVM分类器。

1 PCA基本理论

PCA即离散K-L变换［7］是模式识别中一种有效的特征提取方法。其目的是用较少数量的特征对样本进行描述，降低特征空间的维数，同时又能保留所需要的识别信息。下面介绍 PCA应用于人脸识别的基本原理。

2 基于布尔核的SVM及多类判别

为了论述的方便，这里先简单的介绍了非线性SVM，接着介绍了用到MDNF布尔核函数。在下文中，用符号表示向量；用Xi表示向量X在维i上的分量。

2.1 非线性SVM

非线性SVM通过非线性变换φ将输入空间的向量转换成高维特征空间中的向量，并在特征空间中构造最优超平面：

来分隔正例、负例样品数据。这里，W是高维的特征空间中的向量，b∈R，“＜，＞”表示计算向量之间的内积。使得：

成在约束

下求解：

的最大值。求解后，可以得到最优分类函数为：

其中：

这里，sgn（）是符号函数。

以上公式中，在计算超平面和分类函数时，需要明确给出在特征空间中计算向量内积的函数。在高维特征空间中计算向量点积的函数，称为核函数。 只要明确给出了核函数，并不需要显示的给出从输入空间到特征空间的非线性变换φ，就可以在特征空间计算向量的内积。

2.2 布尔核函数

本节中，讨论样品仅具有离散属性的情况。对于离散属性 Ai，如果有｜Ai｜种不同的取值，则可以用｜Ai｜个布尔文字分别表示样品在属性Ai上的取值是否为其值域中的某个特定值。

定理 1：设 U∈｛0，1｝n，V∈｛0，1｝n，σ＞0，p∈N，I表示单位向量，则：

是布尔核函数。

函数KMDNF（U，V）在特征空间中可以表示多个合取范式的析取范式，称该函数为单调析取范式（Monotone Disjunctive Normal Form，MDNF） 核函数［8］。

2.3 基于支持向量机的多类判别

对于多类模式识别问题 ，SVM可通过两类问题的组合来实现。 通常有两种策略［9］：（1）“一对多”策略，即一个分类器将每一类与剩下所有类别区分开来 ；（2）“一对一”策略，即一个分类器将两个类别对区分开来。本文采用“一对多”的策略，假设分类问题涉及M类，算法如下：

Step1：设已知训练集 T=｛（xi，yi），…，（wi，yi）｝∈（χ×γ）l。

其中 xij′=（xij-）/δj，xi∈χ=Rn，yi∈γ=｛1，…，M｝，i=1，…，l；

Step2：对 j=1，…，M进行如下计算：把第 j类看做正类，把其余的M-1类看做负类，用支持向量机（基于MDNF布尔核）求出决策函数：

fj（x）=sgn（gj（x））

Step3：判定输入x属于第J类，其中J是g1（x），…，gM（x）中最大者的上标。

3 人脸识别基本过程

由于构成训练样本的原始图像尺寸有多种，因此，首先需要把原始图像归一化到一个标准尺寸。 设归一化后的训练样本组成的人脸图像集合为

每一幅图像 fi（M，N）可堆叠成M×N 维的向量，

得到训练样本矩阵 X=（xij）L×MN。

训练模块的基本步骤如下：

Step1.对训练样本的大小采用双线性插值方法做归一化处理后，再做标准化处理，得到X′=（x′ij）L×MN，其中 xij′=（ij-xj）/δj，j，和 δj分别为第 j个向量的均值和标准差；

Step2.对x做K-L变换，计算其本征值和本征向量，并选取主分量；

Step3.每一幅人脸图像都投影到独立成分所张成的子空间中，得到该图像的特征参数；

Step4.将得到的特征0-1化，即使其特征值只能取0和1两个值；

Step5.基于特征参数构造SVM，这里，采用MDNF布尔核函数。

识别模块的基本步骤如下：

Step1.对测试样本进行归一化处理及标准化处理；

Step2.把测试样本投影到独立分量子空间中，得到其特征参数；

Step3.将得到的特征0-1化，即使其特征值只能取0和1两个布尔值，以便使用MDNF布尔核函数。

Step4.按第3.3节的方法进行判别。

4 实验结果与分析

实验所用的图像为ORL［9］标准人脸库。该数据库包含40个人的400幅图像，每个人的脸像为10幅具备不同的光照、表情和视点。图像分辨率为112×92，为灰度图像，部分图像如图1所示。

图1（a） 一个人的10幅不同表情的图像

图1（b） ORL中部分不同人的图像

对分类结果的评价有两种检验方法：一种是Jackknife检验方法；另一种为k-fold cross-validation检验。这两种检验都是较为客观和严格的方法。 Jackknife检验方法就是通常所说的 “留一法”，每一个样本依次从数据库中取出作为测试样本，而剩余的样本作为训练集。在k-fold crossvalidation检验方法中，随机将数据库分为k个子集合，依次取出一个子集作为测试样本集，而其余的k-1个子集合作为训练集此过程循环k次。针对本文样本集较小的情况，我们选用“留一法”，即每次选取一个人的9幅图像作为训练样本集，剩余1幅图像作为测试样本集。

试验1：检验类别的多少对基于MDNF布尔核函数的SVM分类性能的影响。

这里对其参数选用如下设置：超参数C=1，σ=0.5。MDNF-SVM表示基于MDNF布尔核函数的SVM。

从图2中的变化折线可以看出，在超参数C和σ固定的情况下，分类类别在类别数为26的时候分类准确率最高，随着分类类别数的增多，其分类准确率又有所下降，原因在于本文采用的“一对多”的多分类识别策略本身存在一定的缺陷性。

试验2：参数σ对分类性能的影响。

这里的超参数C=1，分类类别选择类别数为26。

从图3中的变化折线可以看出，超参数的变化可以分为两个阶段，（0，1］和（1，10］，在（0，1］这个区间段中，其分类准确率随着超参数的增大而增大，在 σ=0.8 时最大；而在（1，10］中，分类准确率随着超参数的增大而减小，可以预测，当σ大于10时，分类准确率会迅速下降。 因此，在选取超参数σ时，要在区间段（0，1］间选择，该试验也为超参数的选取提供了一个经验原则。

试验3：基于MDNF核函数的SVM与PCA及线性SVM的分类性能比较。

从前面两个试验结果可以看出超参数σ=0.8时其分类准确率最好，因此该试验的超参数选取如下：C=1，σ=0.8。

因为传统PCA识别算法的分辨率一般均在90%以下，因此这里不再针对PCA算法进行比较，只针对识别率较高的线性SVM进行比较。从图4的变化曲线可以看出，线性SVM和MDNF-SVM的分类准确率变化曲线相似，二者都是在类别数为26时分类准确率最高，但其分类准确率略低。原因在于样本的特征之间时存在联系的，而线性SVM不考虑特征之间的关联性，MDNF-SVM则考虑了特征之间的关联性。

图2 识别率随类别数变化折线

图3 识别率随类MDNF-SVM参数变化折线

图4 识别率随类别数变化比较折线

5 结束语

本文给出了一种新的人脸识别的非线性核函数——MDNF布尔核函数，在标准人脸数据库ORL上进行了多组试验，不仅从试验的角度说明了该算法同传统PCA算法及线性SVM算法的优越性，证明了算法的有效性，而且就样本类别及MDNF核参数的选取对算法的影响也做了试验，为MDNF核参数的选取及分类类别的设定有一定的指导作用。针对该方法对于类别数过多分类准确率有所下降的情况，我们也正在展开研究，以期找到比较好的解决方案。