28 福建分析测试Fujian Analysis&Testing 低浓度样品测定时回归曲线中截距的处理 宋瑞强 (国家海洋局滨州海洋环境监测站,山东滨州256600) 摘要:截距对低浓度样品计算却影响甚大,尤其是当样品浓度接近空白浓度时,用线性回归方程计算时会出现偏 差。通过计算统计量判定回归曲线是否过原点、计算容许值判定离群值是否异常及通过Origin的线性拟合功能强 制过原点,可以有效避免因线性拟合过程中导致的计算误差,从而保证低浓度样品测定结果的准确性。 关键词:低浓度样品;回归曲线;截距 中图分类号:0652.7文献标识码:A文章编号:1009-8143(2015)03—0028-03 Doi:10.3969/j.issn.1009-8143.2015.03.06 Processing of the Regression Curve Intercept When Calculating the Low Concentration Song Ruiqiang (BinzhouMarineEnvironmentalMonitoring StationOfStateOceanicAdministration,Binzhou,Shandong256600,China) Abstract:Intercept impact on the low concentration sample calculation is very large.Deviation usually occur when using lin- ear regression equation calculation,especially when the sample concentration is close to the blank concentration.To ensure the accuracy of the low concentration sample determination results,we can determine regression curve pass the Origin whether or not by calculating statistics,determine outliers is noma]or not by calculating permissible value. Keywords:Low concentration samples;Regression curve;intercept 截距对低浓度样品计算却影响甚大,尤其是当 点。其原则和步骤如下: 样品浓度接近空白浓度时,用线性回归方程计算时 会出现偏差,这是因为校准曲线回归后截距a与空 1检验回归曲线是否通过原点 白信号值不一致。此时,用回归方程计算结果将引 入一个固定的误差。当a为正时,计算结果为负误 理想的回归曲线,截距a=0,曲线通过原点;由 差,虽然本来样品的信号值>空白信号值,计算出来 于存在难以控制的随机因素,多数直线在表现上a≠ 的结果却可能为负值,本来能检出的,通过计算却 0,不通过原点。遇此情况则要按统计程序检验其 检不出;当a为负时,计算结果为正误差。本来可能 是否通过原点(a0=0)…。 检不出的,却通过计算被检出了。若将这些截然相 a)计算统计量 反的结果上报将误导数据的后续应用工作。为避 a—ao 一 免测定低浓度样品时固定误差的产生,必须通过一 t —— ==; 5 c f1.+ 定的原则和步骤使截距a为0,使回归曲线强制过原 、J V bxx ,收稿日期:2015—1—13 基金项目:山东省渤海海洋生态修复及能力建设项目一山东省渤海海洋保护区生物多样性数据库构建及生物保护方案制定 (20140601) 作者简介:宋瑞强(1981一),男,工程师,从事海洋环境监测工作。E—mail:taurus一1@163.com 宋瑞强:低浓度样品测定时回归曲线中截距的处理 29 式中: Sxx--.∑ 2一(∑ ) /N 0——线性回归方程的截距; ——检验浓度点是否为异常值的容许值; d ——残差; 5 ——剩余标准差; J7、r——标准系列样品数(0浓度样品除外); ——s ——剩余标准差。 b)若M≤1.5,则浓度点的吸光值符合要求; 若容许值M>I.5,则需重新测定该浓度点,直到 满意 】。 C标准系列浓度值平均值(0浓度样品除 外); b)查t值表P(2)'t。LB( _2]。 )重复步骤(一),直到检验回归曲线通过 c) ̄lJ定:若[ti<t ( , ),则a:ao,曲线通过原点。 若[tl>t (。 ),则曲线不通过原点。 d)利用Origin的线性拟合功能记录曲线y=a+bx 中a,b、r值及各点残差值、标准曲线图、散点图。 原点。 3 若回归曲线通过原点,则对回归曲 线重新拟合。 利用Origin的线性拟合功能,使其强制通过原 2 若曲线不通过原点,则对标准系列 各点测定值进行检验。 a)利用Origin的线性拟合功能得到的散点图进 行初步判定,对偏离较大的浓度点进行容许值判 定。容许值公式为: : 点,方法为:在主菜单上点击Analysis—Fittin譬一Fit Linear—Open Dialog,点开Fit Options,勾选Fix In. tercept,然后在Fix Intercept at后面输入0。然后,点 开Fitted Curves Pl0t—X Data Type,在Range右侧的 选框内选择Span to Full Axis Range,让拟合线延伸 到坐标轴的整个范围。 oy 记录回归曲线y=bx中b、r值及标准曲线图、散 点图。 式中: 表1 4一氨基安替比林分光光度法测定挥发性酚标准曲线表 j型 O.1 趔 O.0O 0 O2 0.04 0OO 0 02 0.04 浓度(mg/L) 浓度(mg/L) 图1 4一氨基安替比林分光光度法测定挥发性酚过 原点拟合标准曲线图 图2 4一氨基安替比林分光光度法测定挥发性 酚过原点拟合散点图 30 福建分析测试技术交流 4 引用实例 以4一氨基安替比林分光光度法测定挥发性酚 曲线为例进行计算,标准曲线见表1。 (1)t值计算 t: 一 一 兰 —一:一0.4972 0.002426{0.01 875*0.01 875- 查t(o.os,3) 3.182 Itl=0.4972<t(。U5.3),故a=ao,曲线通过原点。 (2)利用Origin的线性拟合功能,使其强制通过 原点,记录回归曲线y=bx中b、r值及、标准曲线图、 散点图。 回归曲线相关系数:b=4.53882,r2=O.99971 5结论 通过计算统计量判定回归曲线是否过原点、计 算容许值判定离群值是否异常及通过Origin的线性 拟合功能强制过原点,可以有效避免因线性拟合过 程中导致的计算误差,从而保证低浓度样品测定结 果的准确性。 此方法的适用前提:标准曲线要过原点(经过 统计检验)、强制过原点后不能降低斜率和相关系 数的质量,且不同过原点对计算结果有一定影响 (一般≥5%)。此方法适用范围:可用于采用直线回 归方程的分光光度法、原子吸收法和原子荧光法。 参考文献 【1】GB17378.2-2007,海洋监测规范[s],第2部分:数据处理 与分析质量控制.北京,中国标准出版社,2008