超高效液相色谱仪器检出限计算方法的比较分析

贾离离，祁志红，彭立军，陈福生，周有祥

（1.华中农业大学食品科技学院，湖北武汉 430070）

（2.湖北省农业科学院农业质量标准与检测技术研究所，湖北武汉 430064）

在评价一个分析方法在低浓度范围内的检出能力时，通常会以检出限（Limit of Detection，LOD）和定量限（Limit of Quantification，LOQ）来衡量。一般的，检出限是指目标物在给定置信区间内（可接受的精密度与正确水平）能被定性检出的最低浓度或含量，包括：仪器检出限和方法检出限。前者是在一定置信范围内能与仪器噪音相区别的最小检测信号对应的待测物质的量仪器[1]，是仪器检出最低浓度或含量的能力。后者是目标物质经过特定的分析方法之后能够以合理的置信水平下检出并区别于空白的最小量，是前处理参数（如：称样量、定容体积和稀释倍数等）与仪器检出能力的集合；定量限是指目标物在某种规律（如线性或指数）范围内可准确定量的浓度和含量[2]，当目标物的浓度过高或过低时，工作曲线会存在分叉现象，因此定量限包括：定量下限和定量上限。定量下限与检出限类似，还可进一步分为仪器定量下限和方法定量下限。由于在评价某一方法的适用性时，十分重视对痕量物质的检出能力和定量能力[3]。因此，检出限和定量限是评价检测方法的重要参数，其中又以仪器检出限和定量下限为核心参数。

目前，检出限的主流计算方法主要分为三类：经验判定法、单点浓度法和校准曲线法。经验判定法是指色谱仪器中常用的三倍噪音值法；单点浓度法通过考察单个浓度点重复实验的偏差特性来计算检出限，通常包括IUPAC法、色谱计量检定法和EPA法；校准曲线法通过考察校准曲线的偏差特性来计算检出限，主要包括Hubaux-Vos法以及数学模型法。一般而言，由于计算方法的不同，各方法计算的检出限结果会存在差异，因此，在实际应用中根据不同目的选择合适的计算方法是至关重要的。本实验通过研究超高效液相色谱-荧光检测器对桔霉素的检出限，分析比较了常见的六种检出限计算方法的差异，为在检测过程中的实际应用提供了参考和借鉴。

1 材料与方法

1.1 仪器与试剂

ACQUITY UPLC H-Class，Waters；Beckmened-800双光束紫外分光光度计；美国Milli-Q纯水系统。

桔霉素标准品，阿拉丁试剂；甲醇，色谱纯，德国Merk公司；甲酸，色谱纯，德国Merk公司；乙腈，色谱纯，德国Merk公司；实验室用水。

1.2 实验方法

1.2.1 标准溶液的配制

称取少量的桔霉素(citrinin，CIT)标准品，加入一定体积的甲醇配制成母液。用双光束紫外分光光度计扫描母液的Uv-vis吸收光谱图，测定母液在321 nm处的吸光值（CIT在甲醇溶液中321 nm处摩尔吸光系数为5490 L/mol·cm），根据朗伯-比尔定律计算母液的浓度[4]。再用甲醇将母液稀释成1 ng/mL，2.5 ng/mL，5 ng/mL，10 ng/mL，20 ng/mL，25 ng/mL，40 ng/mL，50 ng/mL的CIT标准溶液。

1.2.2 色谱条件

UPLC色谱条件：40%乙腈，60%甲酸水（0.1%，V/V）；进样量：5 μL；流速0.3 mL/min；柱温40 ℃；Waters ACQUITY UPLC BEH C18色谱柱（2.1×100 mm，1.7 μm）。

1.2.3 计算方法

根据检出限计算方法的分类，本研究选用常见的六种检出限计算方法来考察桔霉素的检出限，包括三倍噪音值法、IUPAC法（分析术语纲要，1998）、色谱计量检定法（液相色谱仪检定规程，2014）、EPA法（美国环保署，2016）、Hubaux-Vos法（Andre Hubaux和Gilbert Vos，1970）以及数学模型法（分析方法检出限和定量限的评估，2013）。

2 结果与分析

2.1 三倍噪音值法

图1 三倍噪音值法计算检出限的示意图Fig.1 The schematic diagram of the detection limit calculated by 3N method

三倍噪音值法是色谱仪器中估算检出限时常用的方法[5～7]，即测量信号等于空白溶液测量信号标准偏差三倍时的样品浓度或含量为检出限。

式中：Sb-多次测得的空白响应信号的标准偏差；b-标准曲线在低浓度范围内的截距；a-标准曲线在低浓度范围内的斜率。

如图1b所示，当桔霉素的浓度为2.5 ng/mL时，信号值明显高于三倍噪音值，可以判定样品中存在高于空白值（图1a）的桔霉素。

浓度对峰面积作图所得的标准曲线为y=4112.9x-1377.9（附表 2），空白值的标准偏差为12.00，带入计算得：

三倍噪音值法多用于色谱类分析中，并不适用于无信噪比参数的方法。

2.2 IUPAC法

图2 IUPAC法计算检出限的示意图Fig.2 The schematic diagram of the detection limit calculated by IUPAC method

国际纯粹与应用化学联合会（International Union of Pure and Applied Chemistry，IUPAC）在《分析术语纲要》中对检出限做出如下规定：某特定分析方法在99%的置信水平下可以从样品中检测出目标分析物的最小浓度或量[8]，计算步骤如下：

式中：XL-样品的响应信号；¯Xb-空白信号的平均值；Sb-多次测得的空白响应信号的标准偏差；K-根据一定置信水平确定的系数。

式中：a-标准曲线在低浓度范围内的斜率。

如图2所示，通过低浓度范围内标准曲线的斜率将响应信号转换为浓度或含量，由检出限（最低检测浓度或含量）产生的分析信号显著地区别于不含被测组份的空白试样所产生的空白噪声[9]。20次空白所测得的响应信号值的标准偏差为12.00（附表1），浓度对峰面积作图所得的标准曲线（附图 1）为y=4112.9x-1377.9（R2=0.9998），斜率 a=4112.9，根据公式计算得到检出限为0.009 ng/mL。

IUPAC法计算检出限时，仅需要得到空白信号的标准偏差和校准曲线的斜率，数据处理过程方便简单，因此该方法得到了广泛的应用。但是该方法存在以下不足：一是仅仅考虑了空白试样响应值的标准偏差，忽略了目标物质的响应水平，其结果与实际目标物质的检出限存在一定的偏差；二是取置信系数 k=3，置信度为99.7%，是在测定误差遵循正态分布时才成立[10]，实际测定中的有限次测定误差很可能是非正态分布，置信度无法达到99.7%，将产生较大的实验误差。

2.3 色谱计量检定法

《液相色谱仪检定规程》[11]将检出限定义为在一定的置信范围内能与仪器噪音相区别的最小检测信号对应的待测物质的量。当S用基线噪音表示时，K一般取2，置信概率为95%；当S用低浓度溶液（或空白）测量结果的标准偏差表示时，取K=3，置信概率为99.7%[10]。

式中：Nd-测量值标准偏差；W-进样量；A-峰面积；v-进样体积。

取2.5 ng/mL的标准溶液所对应的响应信号进行分析（数据见附表 2）：峰面积 A=9597.8，噪音值Nd=281.77，进样体积为5 μL，根据公式计算得到检出限为0.220 ng/mL。

色谱计量检定法由IUPAC法衍生而来，用于浓度型检测器中。虽然计算方法与实验过程都相对简单，但未对选取的浓度进行规定，采用不同浓度进行计算时，得到的检出限结果差异较大（如当取5 ng/mL的标准溶液对响应信号进行分析所得桔霉素的检出限为0.128 ng/mL）。

2.4 EPA法

图3 EPA法计算检出限的示意图Fig.3 The schematic diagram of the detection limit calculated by EPA method

美国环保署（Environmental Protection Agency，EPA）对检出限的定义为：在99%置信水平下，样品中目标分析物能够被检测出并区别于零时的最低浓度[12]。EPA方法的主要步骤如下：

（1）在样品中加入一定浓度的标准品（预期检出限的1～5倍），对其至少进行7次测定。

MDL=tv1,aS

式中：tn-1,0.01-自由度为n-1，置信度为99%时的t分布（单侧）；S-加标样本结果的标准偏差。

（2）为了得到标准偏差相同的数据，另需要加标浓度不同于分析样品浓度的溶液，对新溶液也进行至少7次测定。

（3）对两组数据进行 F检验，以确保两组数据方差间的差异在统计学上是可以忽略的。

（4）若确定方差的差异可以忽略，则合并两个样本方差Spooled，使用新的自由度tv1+v2计算：

MDL=tv1+v2Spooled

如图 3所示，当加标浓度低于检出限时（0 ng/mL），其偏差仅仅由背景噪音引起；当加标浓度在检出限两侧时（0 ng/mL和1.0 ng/mL），响应信号方差不能通过F检验；当加标浓度皆高于检出限时（1.0 ng/mL和1.25 ng/mL），响应信号方差能通过F检验且其偏差同时与背景噪音和样品性质有关。

选择约为预期检出限 5倍浓度的标准溶液（1 ng/mL）进行分析，当加标浓度不同时，标准偏差也存在差异。对两个浓度测量值的标准偏差进行F检验，有F=1.01<2.97，则这两组浓度测量值的方差的差异是可以忽略的（如表1所示）。因此，可以用EPA方法来计算检出限，得到检出限为0.134 ng/mL。

EPA法的优点在于其简便的计算过程。但是EPA法仅进行了两个样品方差的检验，并由此假设在低浓度加标时多次测量结果的标准差是常数，尽管在实际应用中常常假设这种情况存在，但理论上实际并不严谨[13]。

表1 测量浓度值Table 1 The measuring concentrations

表2 EPA法计算桔霉素检出限Table 2 Detection limit of citrinin calculated by EPA method

2.5 Hubaux-Vos法

图4 Hubaux-Vos法计算检出限的示意图Fig.4 The schematic diagram of the detection limit calculated by Hubaux-Vos method

1970年，Andre Hubaux和Gilbert Vos最先提出了利用统计预测区间理论进行检出限估计的方法[14]。该方法包含了校准曲线的生成及校准曲线斜率和截距的变化因素。在预期的检出限范围内，用已知的浓度对一系列样品进行加标，通过检验加标样品的实际响应信号的偏差来确定检出限。Hubaux-Vos方法考虑了标准偏差在所有浓度范围内是变化的，在过低或者过高浓度时标准曲线存在分叉现象[13]。

图5 桔霉素的标准偏差与浓度的关系Fig.5 The relationship between SD and concentration of citrinin

式中：¯Y-响应信号均值；n-置信区间关键值（查表可得）；S-响应信号的标准偏差。

Hubaux-Vos法通常采用图解法来获得检出限。如图4所示，主要有三条曲线，分别是校准曲线回归线和±99%的置信限。从置信上限与Y轴交点作X轴的平行线直到与回归线相交，接着从该交点向X轴做垂线，垂点即为检出限。根据图解法可得到桔霉素的检出限为0.018 ng/mL。Hubaux-Vos法考虑了标准偏差在所有浓度范围内是变化的，而且不用单独设计实验去获得信号域推算到浓度域时用到的灵敏度。

2.6 数学模型法

在GB/T 27415-2013《分析方法检出限和定量限的评估》中，将检出限定义为：能以较高概率检出的最小浓度，即在90%置信水平下，浓度是检出限的样品被检出的概率是95%，浓度是0的样品不被检出的概率是99%[15]。该法考虑到标准差值随浓度变化，取不同浓度水平的标准偏差平方的倒数设定为其权重因子。主要计算公式如下：

（1）剔除离群值后，拟合标准差模型，建立标准差模型与浓度之间的关系，并进行统计检验和作图分析。

式中：Sk-第k水平下测量值的标准偏差；-第k水平下测量值的标准偏差估计值；TK-第k水平下浓度；g-标准偏差对浓度线性拟合曲线的斜率；h-标准偏差对浓度线性拟合曲线的截距；ε1-误差项。

（2）若标准差随浓度而变化，用加权最小二乘（WLS）拟合偏倚回归修正模型并检验其拟合程度。

式中：Wk-权值；Y-响应信号均值；a-测量结果对浓度线性拟合曲线的斜率；b-测量结果对浓度线性拟合曲线的截距。

（3）根据已拟合的模型，迭代计算检出限，并对计算值进行校正。

式中：YC-对应临界限的测量值；LC-临界限；k1-90%置信水平下99%分位数的容忍区间上限调整因子；k2-90%置信水平下 95%分位数的容忍区间上限调整因子；an-偏倚修正调节因子。

根据表中标准偏差对样品浓度做线性回归（原始数据见附表3），有：截距g=141.87，斜率h=13.198，“斜率为零”的检验p值=0.037<0.05，因此拒绝常数模型的选择。另外，从图中可以看出，标准偏差随浓度T而增大，且残差rk对浓度作图无明显趋势，因此应选用直线模型，进入加权最小二乘拟合。以信号响应均值 Y对样品浓度 T做加权最小二乘拟合，有a=4105.86，b=-1296.52。再根据90%置信水平下统计容忍区间上限的调整因子k1、k2（查表可得）[15]，计算出初始IDE值，递归函数迭代至IDE值收敛，根据迭代次数，调整IDE值，即得最终的检出限值0.178 ng/mL。

数学模型法考虑到了不同浓度水平的标准偏差的差异性，低浓度点标准偏差相对较小，因而权重因子大，在进行浓度与响应值的最小二乘拟合分析时，检出限附近低浓度点将发挥更大的作用[16]，虽然计算过程复杂，但结果准确。

表3 不同仪器检出限计算方法的比较Table 3 Comparison of different calculation methods for the detection limit

E P A法 t v1+v2 S pooled 0.1 3 4 计算简便，没有对浓度变化引起的偏差变化进行校正。H u b a u x-V o s法 图解 0.0 1 8 方法简单，但需要进行多次低浓度加标实验。数学模型法 最小二乘拟合 0.1 7 8 处理复杂，考虑到了偏差随浓度的变化，结果可信度高。

3 结论

3.1 本文采用了六种方法计算桔霉素在 UPLC中的检出限，其中三倍噪音值法、色谱计量检定法、EPA法和数学模型法的计算结果相差两倍以内，由于标准偏差（Sb）是根据有限次测定估计，且在低浓度时，误差分布规律不易确定[17]，故认为以上四种方法计算结果的差异可以接受。IUPAC法和Hubaux-Vos法计算所得的检出限与其他方法相差较大，其可能原因在于本次实验所选取的校准曲线的浓度偏高。

3.2 在实际应用中，还需考虑到各计算方法的适用条件。三倍噪音值法与色谱计量检定法只适用于色谱仪器中；EPA法不适用于不能进行低浓度加标（如生物需氧量等）或结果为非连续分布（如菌落计数等）的实验的检出限计算。综合考虑以上六种检出限计算方法的特点和注意事项，在计算检出限时，首先需计算样本的标准偏差，若标准偏差随浓度变化很小，近似为常数，可采用单点浓度法；若标准偏差随浓度变化较大，应采用标准曲线法，根据数据的选取以及准确度的需要决定选用Hubaux-Vos法或是国标法。

3.3 由于实验中的大多数情况下，校准曲线为线性，故本文仅分析了校准曲线为线性时的检出限计算方法。当实验中的校准曲线为非线性时，则需采用其他非线性数学模型[18]对检出限进行计算和分析。

[1]田强兵.分析化学中检出限和测定下限的探讨[J].化学分析计量,2007,16(3):72-73 TIAN Qiang-bing. Discussion of limit of detection and limit of quantification in analytical chemistry [J]. Chemical Analysis and Meterage, 2007, 16(3): 72-73

[2]王艳洁,那广水,王震,等.检出限的涵义和计算方法[J].化学分析计量,2012,21(5):85-88 WANG Yan-jie, NA Guang-shui, WANG Zhen, et al.Connotation and calculation methods of detection limit [J].Chemical Analysis and Meterage, 2012, 21(5): 85-88

[3]丁怡,彭程.多种方法评估液相色谱方法检出限的初步探讨[J].现代食品科技,2009,25(11):1372-1374 DING Yi, PENG Cheng. Evaluation of four simple methods for calculating the method detection limit of HPLC analysis[J]. Modern Food Science and Technology, 2009, 25(11):1372-1374

[4]董丽娜.红曲中隐蔽型桔霉素的分析鉴定及其形成过程的初步研究[D].武汉:华中农业大学,2012 DONG Li-na. Identification of masked citrinin in red fermented rice and analysis of its formation in fermentation[D]. Wuhan: Huazhong Agricultural University, 2012

[5]袁洁,罗海英,冼燕萍,等.高效液相色谱串联原子荧光光度计法测定鱼肉中甲基汞、乙基汞和苯基汞[J].现代食品科技,2009,25(7):838-840 YUAN Jie, LUO Hai-ying, XIAN Yan-ping, et al.Determination of methylmercury, ethylmercuric and phenylmercury residues in fish by HPLC-AFS [J]. Modern Food Science and Technology, 2009, 25(7): 838-840

[6]曾宪远,宁焕焱,尹艳,等.高效液相色谱串联质谱法测定花生及制品中的五种真菌霉素[J].现代食品科技,2014,1:217-221 ZENG Xian-yuan, NING Huan-yan, YIN Yan, et al.Determination of five mycotoxins in peanuts and products by HPLC-MS/MS [J]. Modern Food Science and Technology,2014, 1: 217-221

[7]陈意光,邓穗兴,柯振华,等.高效液相色谱法同时测定果汁中13种有机酸和白藜芦醇[J].现代食品科技,2010, 26(12):1387-1390 CHEN Yi-guang, DENG Sui-xing, KE Zhen-hua, et al.Determination of 13 kinds of organic acids and resveratrol in fruit juice by HPLC [J]. Modern Food Science and Technology, 2010, 26(12): 1387-1390

[8]Long G L, Winefordner J D. Limit of detection: a closer look at the iupac definition [J]. Analytical Chemistry, 1983, 55(7)

[9]邓勃.仪器定量分析中几个问题的探讨[J].中国无机分析化学,2011,2:1-5 DENG Bo. The discussion of some problems in quantitative instrumental analysis [J]. Chinese Journal of Inorganic Analytical Chemistry, 2011, 2: 1-5

[10]张国城.液相色谱检出限的推导与讨论[J].中国计量,2010,5:77-79 ZHANG Guo-cheng. Derivation and discussion of the detection limit of liquid chromatography [J]. China Metrology, 2010, 5: 77-79

[11]JJG 705-2014,液相色谱仪[S]JJG 705-2014, Verification Regulation of Liquid Chromatographs [S]

[12]United States Enviromental Protection Agency E. Definition and Procedure for the Detemination of the Method Detection Limit, Revision 2 [S]

[13]李君霞.分析检出限的实验测量和计算方法的研究[D].北京:北京化工大学,2012 LI Jun-xia. Analysis of experimental measurement and calculation methods of detection limit [D]. Beijing: Beijing University of Chemical Technology, 2012

[14]Shennan I, Garrett E, Barlow N. Detection limits of tidal-wetland sequences to identify variable rupture modes of megathrust earthquakes [J]. Quaternary Science Reviews,2016, 150: 1-30

[15]GB/T 27415-2013,分析方法检出限和定量限的评估[S]GB/T 27415-2013, Estimate of Detection and Quantification Limit for Analytical Method [S]

[16]李玉武,任立军,王婧瑞,等.方法检出限三个评估方法标准解读与比较[J].中国无机分析化学,2015,5(3):24-33 LI Yu-wu, REN Li-jun, WANG Jing-rui, et al. Interpretation and comparison of three evalustionmethods of method detection limit [J]. Chinese Journal of Inorganic Analytical Chemistry, 2015, 5(3): 24-33

[17]高若梅,刘鸿皋.检出限概念问题讨论-IUPAC及其它检出限定义的综合探讨和实验论证[J].分析化学,1993, 10:1232-1236 GAO Ruo-mei. Discussion of concept of detection limit-the definition, the estimation and the etc. approaches [J]. Chinese Journal of Analytical Chemistry, 1993, 10: 1232-1236

[18]曹凤珍.统计方法在分析方法检出限评估中的应用研究[D].北京:北京工业大学,2015 CAO Feng-zhen. The application of statistical methods in evaluation limit of detection [D]. Beijing: Beijing University of Technology, 2015