EL-5100计算相对标准偏差(RSD)

EL-5100计算相对标准偏差(RSD) 使用SHARP EL-5100计算相对标准偏差,RSD，、标准 工作曲线、相关系数,r，和农药降解动态方程示例 注意:本计算器部分数码管失灵～可通过调整小数点位数读出。具体是按左侧TAB键～然后按3～保留3位～按4保留4位……。 1 计算相对标准偏差,RSD,、标准工作曲线、相关系数,r,示例 1.1计算相对标准偏差,RSD, 分析测试结果的精密度通常用相对标准偏差,RSD,表示～过去也有用变异系数,CV,表示的。目前～我国相关标准中规定精密度用相对标准偏差,RSD,表示。以下列一组测试数据为例计算相对标准偏差,RSD,。 表1 一组测定数据的统计值 相对标平均值标准偏重复 1 2 3 4 5 6 7 8 准偏差差(Sx) () X(RSD) 测定值 20.5 21.3 19.6 20.1 20.8 21.0 21.7 19.9 20.6 0.7219 0.035 打开计算器电源ON ,将右下角的开关拨至统计档STAT ～按黄色的2ndF 和红色的CL 清空内存。输入数据20.5～按蓝色的M+显示1.0000…., 依次输入21.3～按蓝色的M+显示2.0000…., 直至8组数据输入完毕。按黄色的2ndF～按4提取X;按黄色的2ndF～按5提取 XSx; 用Sx/×100= RSD 在常量和痕量分析中～对RSD有不同的要求～将测定值的RSD同标准中规定的RSD相比～判断是否超差。超差则说明测定方法有问题。 分析测定方法中的准确度通常用回收率表示～即测定值与添加值的比值。常量分析为99~101%,痕量分析,如农药残留分析,通常为80~120%。添加通常采用“半量”添加的方法～比如原溶液中测定有50ng组分～再添入50ng组分。农药残留的添加回收通常是在空白对照样品中添加。 1.2 标准工作曲线、相关系数,r,示例 表2 标准工作曲线数据统计 进样量,ng, 10 20 30 40 50 60 70 X轴 峰面积 1020 2040 3060 4090 5110 6090 7150 Y轴 直线回归方Y = 2.8571+101.92X 程 0.9999 相关系数,r, 打开计算器电源ON ,将右下角的开关拨至统计档STAT ～按黄色的2ndF 和红色的CL 清空内存。输入数据10～按,M后出现逗号～然后输入数据1020～按M+显示1.0000…., 依次输入20～输入数据2040～按蓝色的M+显示2.0000…., 直至7组数据输入完毕。按2ndF～按× 提取截距a; 按2ndF～按+ 提取斜率b ; 按2ndF～按, 提取相关系数,r,。将得到的r同表5比较。本组n=5, 若线性相关,水平0.01～即100次试验～有99次应这样,～r = 0.874～而本试验计算得r = 0.9999～说明成极好的线性回归关系,反之则不然。本计算器的直线回归方程为Y = a+bX。 有时对进样量、峰面积取单对数或双对数时～二者才能呈线性关系。这与检测器特性有关。 2 计算农药降解动态方程示例 bx当X与Y在单对数坐标系上画图呈直线时,表明函数属于Y=de的变量关系,即In Y=bX+Ind, 令Y’=InY, B=Ind, M=b, 则化为直线式: Y’=MX+B 此时, 2,XlnY,X,,lnY,X 截距 B, 22(,X),n,X ,X,lnY,n,XlnYM, 斜率 22(,X),n,X -Kt大多数农药降解动态可用方程Ct = Ce来具体表达～即通常所0 说的化学一级反应动力学方程。Ct=Y～d=C～b=K=M～X=t。 0 由于农药在环境中的浓度通常是较低的～因此我们可以用下式来表达: dc ,,kc …………………………………………………………………,,, dt 将,1,式积分得: -kt Ct = Ce………………………………………………………………,2, 0 式中～K为降解速率常数,C为农药的初始浓度,也叫原始沉积, 量,Ct为t时刻农药的浓度。 对,2,式取对数得: lnCt,,Kt，lnC0 …………………………………………………………………,3, 0C……………………………………………………………………,4, ,lnKt Ct 当施用的农药降解50%～即Ct=1/2C时～所需时间叫降解半衰期～以, T表示时: 1/2 ln20.693T1/2,, …………………………………………………………,,, KK 式,5,说明T与降解速率常数K成反比～与农药初始浓度,,1/2 无关。 同理T 即农药降解99%所需时间可按下式计算: 0.99 ln994.595 T,,0.99……………………………………………………,,, KK 式,3,~,5,推算细节: KT,lnC0,Ct C0 Kt,ln Ct C0 ln Ctt, 令Ct =1/2C 0K C0ln2C0ln1C0ln20.693C20T1/2,,,, ………,7, KKKK 大多数农药在农作物上和环境中的残留量,浓度,～随施药后的时 间,天,变化以近似负指数函数递减的规律变化。以甲基毒死蜱在甘 蓝及土壤上的消解动态数据为例～具体介绍求降解动态方程实例。 表3 甲基毒死蜱在甘蓝及土壤上的消解动态 施药1次 取样间隔 甘蓝 土壤 施药剂量 时 间 g/ha(a.i.) 平均残留量 消解率 平均残留量 消解率 (d) (mg/kg) ( % ) (mg/kg) ( % ) 1/24 5.82 — 2.12 — 1 1.10 81 1.12 47 2 0.19 97 0.59 72 3 0.06 99 0.26 88 720 7 0.02 99 0.07 97 14 0.002 99 0.02 99 21 0.002 99 0.006 99 原始沉积量所对应的时间为1/24天～即喷药后1小时。 以X表示时间～Y表示残留量。在计算回归方程时～通常只取降解率达90%以上的1~2组数据。即甘蓝上取4组数据～土壤上取5组数据。 表4 甲基毒死蜱在甘蓝上的消解动态统计数据 1/24 1 2 3 X(天) 5.82 1.10 0.19 0.06 Y(mg/kg) 1.7613 0.0953 -1.6607 -2.8134 lnY(mg/kg) 将Y 转换成lnY～或直接输入具有计算直线回归方程功能的计算器计算。 以SHARP EL-5100计算器为例～甲基毒死蜱在甘蓝上的降解动态方程～计算结果为:r=-0.9957～是否相关～及相关显著水平～可查相关系数检验表,表2,～v=4-2=2, P=0.950, P=0.990,因此该方程0.050.01 可以模拟该种药剂随时间变化的情况。a=1.7119～b=-1.5666=K。取a -1.5666t值自然对数为C=5.5397～因此Ct = 5.5397e。 0 ln20.693T1/2,,,0.4d 按式,5, K1.5666 由此～我们可以得出甲基毒死蜱在甘蓝上的降解动态方程为: -1.5666tCt = 5.5397e～T=0.4d～r=-0.9957～显著水平为P。 1/20.01 6 5 4 3mg/kg 2 1 0 048121620d 图 1 甲基毒死蜱在甘蓝上的消解动态曲线6 4 2 0 048121620 ln mg/kg-2 -4 -6 -8 图 2 甲基毒死蜱在甘蓝上的消解动态曲线 按照上述计算过程～可同理计算出土壤上的降解方程。 -k对某些除草剂可用Ct=Ct 回归。数据处理取双对数～即X和Y都取0 对数。 表5 相关系数检验表 P P N-2 N-2 0.05 0.01 0.05 0.01 1 0.997 1.000 11 0.553 0.684 2 0.950 0.990 12 0.532 0.661 3 0.878 0.959 13 0.514 0.641 4 0.811 0.917 14 0.497 0.623 5 0.754 0.874 15 0.482 0.608 6 0.707 0.884 16 0.468 0.590 7 0.666 0.798 17 0.456 0.575 8 0.632 0.765 18 0.444 0.561 9 0.602 0.735 19 0.433 0.549 10 0.576 0.708 20 0.423 0.537