海涌杰 易定容 黄彩虹 袁涛 梅小华
摘要: 针对传统自动聚焦方法效率低,难以适应工业产品微观形貌检测高精度、高效率需求的问题,提出一种基于物方差动共焦轴向测量引导的显微镜自动对焦方法(DCAFM)。在获取测量系统中离焦量和轴向光强差之间的标定曲线后,控制运动机构使物镜与样本的轴向距离以等步距的方式采集图像。通过焦前与焦后位置光强差快速确定当前轴向离焦量,控制轴向运动机构,实现快速自动对焦。搭建顯微镜自动对焦实验平台,对样品进行测试。实验结果表明:文中方法的图像对焦速度和灵敏度优于DFT,EOG等自动对焦方法,系统的轴向分辨率优于0.4 μm,有效地提高了显微镜的对焦速度和精度。
关键词: 自动对焦方法; 轴向测量; 轴向差动共焦; 物方差动; 微观形貌检测
中图分类号: TP 391.7文献标志码: A 文章编号: 1000-5013(2024)01-0016-06
Microscope Automatic Focusing Method Based on Height-Guidance of Object-Side Differential Confocal Axial Measurement
HAI Yongjie1, YI Dingrong1, HUANG Caihong2, YUAN Tao1, MEI Xiaohua2
(1. College of Mechanical Engineering and Automation, Huaqiao University, Xiamen 361021, China;
2. College of Information Science and Engineering, Huaqiao University, Xiamen 361021, China)
Abstract: Aiming at the problem of low efficiency of traditional automatic focusing methods and difficulty in adapting to the high precision and high efficiency of microscopic morphology detection in industrial products, a microscope automatic focusing method based on the height-guidance of object-side differential confocal axial measurement is proposed. After obtaining the calibration curve between the defocus amount and the axial light intensity difference in the measurement system, the motion mechanism is controlled so that the axial distance between the objective lens and the sample is used to collect images at equal steps. The current axial defocus amount is determined quickly through the difference in light intensity between the front and back focus positions, and control the axial movement mechanism to achieve fast autofocus. A microscope autofocus experimental platform is built to test samples. Experimental results show that the image focusing speed and sensitivity of the proposed method are better than that of DFT, EOG and other automatic focusing methods, and the axial solution of the system is better than 0.4 μm, which effectively improves the focusing speed and accuracy of the microscope.
Keywords: autofocus method; axial measurement; axial differential confocal; object-side differential; micromorphology detection
显微镜自动对焦技术在工业产品检测如PCB板检测[1]、生物样品高通量检测及数字病理诊断[2]中广泛应用。随着工业生产与科学研究的发展,传统自动对焦方法难以同时满足应用场景对精度和效率的要求,因此,提高自动对焦的精度与效率已经成为工业生产与生物科学研究领域亟待解决的问题。
目前,基于图像的自动对焦方法主要有离焦深度法[3]与聚焦深度法[4]。离焦深度法通过分析一系列离焦模糊图像的重要特征估计光学系统的点扩散函数,从而对光学系统参数进行建模,反推出离焦量。离焦深度法的缺点是估计出的点扩散函数无法应用于其他光学系统,具有一定的局限性。聚焦深度法通过采集不同轴向位置的序列图像,使用某种聚焦评价函数或图像清晰度评价函数,该函数反映图像离焦程度量化值与离焦量之间的关系。聚焦深度法的核心之一是根据应用场景选择或设计合适的聚焦评价函数,该方法具有不需要额外添加光学器件、方法泛化能力强等优点,已有学者针对聚焦评价函数展开研究,以提高自动对焦的效率与精度。熊锐等[5]对Brenner函数和Roberts函数进行改进,提出一种适合于多边缘方向的大尺度微纳器件的快速自动聚焦的聚焦评价函数,但该方法需要存储大量图像进行分析。为了减少自动对焦过程中需要分析的图像数量以提高对焦效率,李强等[6]设计一种基于深度学习的数字病理扫描系统单次曝光自动对焦方法,该算法输入离焦模糊图像,通过算法处理后直接获得对应的准焦图像,从原理上替代了传统方法对逐个子图像进行机械扫描调焦。周鹏等[7]提出一种基于三轴视觉测量系统的自动对焦技术,该方法共采集7张图像通过高斯拟合确定最终正焦位置,将光学离焦模型分解为2个曲线方程,提高了对焦效率。
基于聚焦深度法的自动对焦方法一定程度上依赖于聚焦评价函数的选择是否适用于测量场景[8],容易产生对焦精度不足、对焦速度过慢等问题,需要根据不同的应用场景对不同的聚焦评价函数进行改进;而基于深度学习开发的自动对焦方法依赖训练集,并且应用场景较有针对性,该方法缺少普适性且需要处理大量数据[5,9]。由于共聚焦显微技术使用点探测,能够更加稳定地获得光强轴向响应曲线,样品参数不易对该曲线造成影响,因此可基于共焦成像的轴向层析特性,研究适用于共焦显微成像系统的自动对焦方法。
基于此,针对传统自动对焦方法中聚焦评价函数普适性低、灵敏度低和对焦速度慢的问题,本文提出一种基于物方差动共焦轴向测量引导的显微镜自动对焦方法(DCAFM)。
1 原理及方法
1.1 自动对焦原理
差动共焦显微镜的原理示意图,如图1所示,其中,探测器端、点光源前的针孔是互相共轭的,非物镜焦平面上的绝大部分光线都会被针孔挡住,因此共焦显微镜探测器段具有较大的信噪比,所得成像的对比度和清晰度较高[10]。
DCAFM主要基于差动共焦显微原理(图1),光源中发出的白光通过准直透镜、全反射镜,经过数字微镜器件(DMD)将白光调制为周期点阵光,光线照射到样本表面上后反射至探测端成像。PI电机带动物镜相对于当前轴向位置分别向上和向下移动轴向偏移量uF,并在移动完成后获取图像,从而获得两张图像以实现基于物方差动共焦轴向测量引导的自动对焦。
根据差动共焦轴向距离测量的原理获取灰度差与轴向离焦量的关系,基于该轴向光强差动曲线获取轴向离焦量,从而达到自动对焦的目的。根据刘志群[11]的相关研究,在差动共焦显微测量系统中,探测端光强与样品表面离焦量之间的关系,即轴向光强响应曲线的表达式为
式(1)中:u为样品表面轴向离焦量;I(u)为探测端接收到的光照强度;坐标原点为焦面位置。
为了进行系统标定,获取当前测量系统探测端光强差与离焦量的近似线性关系,设uPre和uPost分别为焦前曲线和焦后曲线的轴向偏移量,并且此处uF=uPre=uPost。
采用焦前轴向光强响应曲线I(u-uPre)与焦后轴向光强曲线I(u+uPost)作差,表达式为
IDiffer=IPre-IPost。(2)
式(2)中:IDiffer为差动光强信号;IPre为焦前光强信号,IPre=I(u-uPre);IPost为焦后光强信号,IPost=I(u+uPost)。獲得物方轴向测量差动曲线,如图2所示。
相比于传统共聚焦显微镜,差动共焦显微镜能够通过分析相对于焦面前、后对称的两个探测器位置的光强信息,快速获取物镜当前与焦面的距离。由于差动共焦原理下的轴向差动光强响应曲线的线性区具有较大的斜率,因此,能够有效提高对焦过程中的灵敏度。
根据Tan等[12]确定的Sinc2模型对共焦轴向响应曲线进行拟合,通过设定一定的轴向偏移量uF,获得焦前与焦后的轴向特性曲线,并使用焦前曲线与焦后曲线作差(图2),获得物方差动共焦轴向测量曲线仿真图,如图3所示。图3中:蓝色区域为线性区,具有轴向定位能力。根据光强的差值IDiffer(u)能够对应当前样本表面的离焦量Δu=I-1Differ(Δu),实现轴向测量引导的自动对焦方法。
由于差动后的曲线的非线性区域不具有轴向定位能力,可能具有不唯一解导致无法对应正确轴向离焦量,因此,提出一种基于信息论的超量程判断方法(IT-ORDM)[10]对被测表面高度所属的曲线区域进行判断,以解决存在非唯一解的情况。基于信息论的超量程判断方法,如图4所示。图4中:z为轴向距离;+zd,-zd分别为焦前、焦后轴向光强响应曲线峰值对应的轴向距离。
假设对某点P1(对应轴向距离z1)的轴向离焦量进行判断,该点位于紫色区域内的线性区(对应轴向距离范围为[zmin,zmax]),因此,在量程内可以得出正确的离焦量。但在图4(a)的绿色区域内,也存在一点P2(对应轴向距离z2),该点相应地在焦前轴向光强响应曲线(Pre-focus ARC)和焦后轴向光强响应曲线(Post-focus ARC)上有2个点P′2和P″2,是超出测量量程的,与P2具有同一轴向距离z2。因此,在焦前和焦后图像中都可能存在超出量程的点和在量程内的点。IT-ORDM通过系统刻度曲线分别获得焦前与焦后图像中的真实测量区域,进而对焦前和焦后图像进行求交集运算,即可获得差动图像的有效测量区域(图4(b))。
1.2 共焦光学系统标定
差动共焦显微测量系统的实验平台,如图5(a)所示。图像探测器采用滨松sCMOS相机、PlanFluor物镜(10倍,数值孔径值为0.3)和Motic BA600Mot显微镜架。通过测量系统刻度方法对所用测量系统进行刻度,刻度流程如图5(b)所示。
分别将物镜移动至焦前10 μm与焦后10 μm处,以0.2 μm的步距获取200张层扫图像,对线性区曲线进行线性拟合,测量系统中的轴向响应曲线及差动曲线,如图6(a),(b)所示。重复5组刻度试验,结果如图6(c)所示,误差棒的中心为5组数据均值,棒长为标准差的两倍。
为验证文中方法的轴向分辨率,采用步距0.2 μm,层扫200张图片进行多组重复性试验,作出文中方法的轴向分辨力图,最大标准差为0.556,轴向分辨率高于0.4 μm。经过对线性区域的线性拟合(图6(b)),得到拟合式为
IDiffer(u)=-0.026 08u-0.021 42。(3)
1.3 自动对焦流程
DCAFM流程图,如图7所示。DCAFM具体有以下3个步骤。
1) 在获取的第i张样本图像的前、后轴向距离uF位置获取2张样本图像灰度(即光强值)并作差,得到IDiffer。2) 判断被测样品的轴向高度是否超过对焦范围,获取图像中的有效离焦距离。3) 根据步骤2)中所获取的有效离焦距离进行对焦。
2 实验结果与分析
传统自动对焦方法的核心是对焦评价函数,其性能好坏直接影响最终的对焦效果。目前的图像清晰度评价函数主要有基于图像梯度的评价函数、频域评价函数、信息熵评价函数和统计学评价函数。因此,为验证DCAFM的自动对焦性能,采用4种具有代表性的清晰度评价函数进行自动对焦过程模拟,将实验结果与文中方法进行对比。分别选取文献[12]中的能量梯度函数(EOG)、二维离散傅里叶变换(DFT)法、信息熵清晰度评价函数及Variance函数进行自动对焦性能对比实验。
分别采用DCAFM、EOG、DFT、信息熵清晰度评价函数、Variance函数等方法,以0.2 μm为步距对金手指样品进行层扫,从而获取不同离焦程度样本图像,并对所得样本图像进行清晰度评价。DCAFM测试用样本焦面图像,如图8所示。使用常用清晰度评价函数进行对比,如图9所示。由图9可知:相比于其他方法,DFT方法寻找焦面的误差较大,不符合单峰性,存在一定的轴向距离偏移。
采用自动对焦评价函数的灵敏度、陡峭度、对焦效率等参数对不同方法的对焦性能进行比较。在轴向相等步距的情况下,灵敏度Sen的计算式[15]为
式(4)中:Score为某图像的清晰度得分; j为层扫图像序列的索引; Scoremax(j)为某清晰度评价函数下的最高清晰度得分。对焦效率使用Matlab中的代码运行时间为标准。由于DCAFM对焦所用曲线为一条直线,因此,使用灰度差值为0的点作为Scoremax所在的点。
不同自动对焦方法的性能对比,如表1所示。表1中:t为对焦时间。由表1可知:相比传统自动对焦方法,DCAFM在灵敏度及对不同离焦距离图像的分辨能力上有显著提升;在自动对焦效率方面,相比于文献[4]中提出的需要获取7张图片的自动对焦方法,DCAFM仅需提取2张图片的信息即可完成对焦;相比于传统的基于图像处理的自动对焦方法,DCAFM对焦所用的时间缩短了80%以上。
3 结束语
通過对共聚焦显微镜的原理进行讨论,提出基于物方差动共焦轴向测量引导的显微镜自动对焦方法。该自动对焦方法基于物方差动共焦轴向距离测量原理,在检测过程中只需采集2幅图像即可完成对焦;同时,用于对焦的曲线灵敏度较大,轴向分辨率高于0.4 μm,因此,能够实现较高的对焦效率、精度和较好的普适性。经过实验验证,相比传统基于图像算子的自动对焦方法,DCAFM可以提高工业产品自动光学检测过程中获取图像的质量,提高基于自动光学检查(AOI)方法的工业产品缺陷自动检测效率和精度。
参考文献:
[1] DAVE N,TAMBADE V,PANDHARE B,et al.PCB defect detection using image processing and embedded system[J].International Research Journal of Engineering and Technology,2016,3(5):1897-1901.
[2] LIAO Jun,JIANG Shaowei,ZHANG Zibang,et al.Terapixel hyperspectral whole-slide imaging via slit-array detection and projection[J].Journal of Biomedical Optics,2018,23(6):066503.DOI:10.1117/1.JBO.23.6.066503.
[3] SUBBARAO M,SURYA G.Depth from defocus: A spatial domain approach[J].International Journal of Computer Vision,1994,13(3):271-294.DOI:10.1007/BF02028349.
[4] XIONG Yalin,SHAFER S A.Depth from focusing and defocusing[C]∥Proceedings of IEEE Conference on Computer Vision and Pattern Recognition.New York:IEEE Press,1993:68-73.DOI:10.1109/CVPR.1993.340977.
[5] 熊锐,顾乃庭,徐洪艳.一种适应多方向灰度梯度变化的自动对焦评价函数[J].激光与光电子学进展,2022,59(4):373-380.DOI:10.3788/LOP202259.0418001.
[6] 李强,刘贤明,韩凯歌,等.基于深度学习的数字病理扫描系统单次曝光自动对焦方法[J].中国科学:信息科学,2021,51(10):1675-1689.DOI:10.1360/SSI-2020-0349.
[7] 周鹏,胡成海,毕超,等.三轴视觉测量系统自动对焦技术[J].红外与激光工程,2021,50(12):443-450.DOI:10.3788/IRLA20210141.
[8] QU Yufu,ZHU Shenyu,ZHANG Ping.A self-adaptive and nonmechanical motion autofocusing system for optical microscopes[J].Microscopy Research and Technique,2016,79(11):1112-1122.DOI:10.1002/jemt.22765.
[9] BIAN Zichao,GUO Chengfei,JIANG Shaowei,et al.Autofocusing technologies for whole slide imaging and automated microscopy[J].Journal of Biophotonics,2020,13(12):e202000227.DOI:10.1002/jbio.202000227.
[10] 高兴宇,伍世荣,萧泽新.一种现代先进成像技术: 共焦显微术[C]∥2004全国光学与光电子学学术研讨会、2005全国光学与光电子学学术研讨会、广西光学学会成立20周年年会论文集.桂林:广西光学学会,2005:250-252.
[11] 刘志群.差动并行共聚焦高精度快速三维表面形貌测量方法研究[D].厦门:华侨大学,2020.
[12] TAN Jiubin,LIU Chenguang,LIU Jian,et al.Sinc2 fitting for height extraction in confocal scanning[J].Measurement Science and Technology,IOP Publishing,2015,27(2):025006.DOI:10.1088/0957-0233/27/2/025006.
[13] YUAN Tao,YI Dingrong,YE Yiqing,et al.Differential confocal over range determination method based on information theory[J].Applied Optics,2023,62(8):2073-2077.DOI:10.1364/AO.484018.
[14] 熊锐.基于数字图像处理的显微自动对焦技术研究[D].成都:中国科学院大学(中国科学院光电技术研究所),2021.
[15] 王烨茹.基于数字图像处理的自动对焦方法研究[D].杭州:浙江大学,2018.