有效数字的处理

有效数字的处理 有效数字的处理 分类:化学基础 2006.7.25 22:05 作者：whl2992 | 评论：0 | 阅读：176 一、有效数字 1.在工作中实际能测量到的数字就称为有效数字。 2.在记录有效数字时，只允许数的末位欠准，而且只能上下差1。 二、有效数字修约规则 用“四舍六入五成双”规则舍去过多的数字。 即当尾数≤4时，则舍；尾数≥6时，则入；尾数等于5时，若5前面为偶数则舍，为奇数时则入。当5后面还有不是零的任何数时，无论5前面是偶或奇皆入。     例如：将下面左边的数字修约为三位有效数字     2.324→2.32   2.325→2.32   2.326→2.33   2.335→2.34   2.32501→2.33 三、有效数字运算法则     1.在加减法运算中，每数及它们的和或差的有效数字的保留，以小数点后面有效数字位数最少的为标准。在加减法中，因是各数值绝对误差的传递，所以结果的绝对误差必须与各数中绝对误差最大的那个相当。     例如：2.0375＋0.0745＋39.54 = ？ 39.54是小数点后位数最少的，在这三个数据中，它的绝对误差最大，为±0.01，所以应以39.54为准，其它两个数字亦要保留小数点后第二位，因此三数计算应为： 2.04＋0.07＋39.54 = 41.65     2.在乘除法运算中，每数及它们的积或商的有效数字的保留，以每数中有效数字位数最少的为标准。在乘除法中，因是各数值相对误差的传递，所以结果的相对误差必须与各数中相对误差最大的那个相当。     例如：13.92×0.0112×1.9723 = ？     0.0112是三位有效数字，位数最少，它的相对误差最大，所以应以0.0112的位数为准，即：     13.9×0.0112×1.97 = 0.307     3.分析结果小数点后的位数，应与分析方法精密度小数点后的位数一致。     4.检验结果的写法应与药典规定相一致。 你可以通过这个链接引用该篇文章:http://whl2992.bokee.com/viewdiary.12840475.html HYPERLINK "javascript:addFavorite('有效数字的处理','http://whl2992.bokee.com/viewdiary.12840475.html');" INCLUDEPICTURE "http://blogteam.bokee.com/pub/images/bsp_shoucang.gif" \* MERGEFORMATINET  收藏             露点超标原因分析 上一篇 | 下一篇 分析化学的任务和作... 我的广告