为了正常的体验网站,请在浏览器设置里面开启Javascript功能!

有效数字运算规则

2011-01-30 3页 doc 26KB 1694阅读

用户头像

is_254154

暂无简介

举报
有效数字运算规则有效数字运算规则 有效数字运算规则 由于与误差传递有关,计算时加减法和乘除法的运算规则不太相同。 1. 加减法 先按小数点后位数最少的数据保留其它各数的位数,再进行加减计算,计算结果也使小数点后保留相同的位数。 例:计算50.1+1.45+0.5812=? 修约为:50.1+1.4+0.6=52.1 先修约,结果相同而计算简捷。 例:计算 12.43+5.765+132.812=? 修约为:12.43+5.76+132.81=151.00 注意:用计数器计算后,屏幕上显示的是151,但不能直接记录,否则会影响以后的修约;应在数...
有效数字运算规则
有效数字运算 有效数字运算规则 由于与误差传递有关,计算时加减法和乘除法的运算规则不太相同。 1. 加减法 先按小数点后位数最少的数据保留其它各数的位数,再进行加减计算,计算结果也使小数点后保留相同的位数。 例:计算50.1+1.45+0.5812=? 修约为:50.1+1.4+0.6=52.1 先修约,结果相同而计算简捷。 例:计算 12.43+5.765+132.812=? 修约为:12.43+5.76+132.81=151.00 注意:用计数器计算后,屏幕上显示的是151,但不能直接,否则会影响以后的修约;应在数值后添两个0,使小数点后有两位有效数字。 2. 乘除法 先按 不 修约为:0.0121×25.6×1.06=? 计算后结果为:0.3283456,结果仍保留为三位有效数字。 记录为:0.0121×25.6×1.06=0.328 注意:用计算器计算结果后,要按照运算规则对结果进行修约 例:计算2.5046×2.005×1.52=? 修约为:2.50×2.00×1.52=? 计算器计算结果显示为7.6,只有两位有效数字,但我们抄写时应在数字后加一个0,保留三位有效数字。 2.50×2.00×1.52=7.60 1.3.1 有效数字   1. 定义     有效数字就是实际能测到的数字。有效数字的位数和分析过程所用的分析方法、测量方法、测量仪器的准确度有关。我们可以把有效数字这样示。   有效数字=所有的可靠的数字+ 一位可疑数字   表示含义:如果有一个结果表示有效数字的位数不同,说明用的称量仪器的准确度不同。   例:7.5克    用的是粗天平     7.52克    用的是扭力天平     7.5187克   用的是分析天平   2. “0”的双重意义   作为普通数字使用或作为定位的标志。   例:滴定管读数为20.30毫升。两个0都是测量出的值,算做普通数字,都是有效数字,这个数据有效数字位数是四位。   改用“升”为单位,数据表示为0.02030升,前两个0是起定位作用的,不是有效数字,此数据是四位有效数字。   3. 规定    (1).倍数、分数关系 无限多位有效数字    (2). pH、pM、lgc、lgK等对数值,有效数字由尾数决定。     例: pM=5.00 (二位) [M]=1.0×10-5 ;PH=10.34(二位);pH=0.03(二位)   注意:首位数字是8,9时,有效数字可多计一位, 如9.83―四位。 1.3.2 数字修约规则(“四舍六入五成双”规则)   规定:当尾数≤4时则舍,尾数≥6时则入;尾数等于5而后面的数都为0时,5前面为偶数则舍,5前面为奇数则入;尾数等于5而后面还有不为0的任何数字,无论5前面是奇或是偶都入。    例:将下列数字修约为4位有效数字。     修约前     修约后     0.526647--------0.5266     0.36266112------0.3627     10.23500--------10.24     250.65000-------250.6     18.085002--------18.09     3517.46--------3517   注意:修约数字时只允许一次修约,不能分次修约。 如:13.4748-13.47 1.3.3 计算规则   1. 加减法    先按小数点后位数最少的数据保留其它各数的位数,再进行加减计算,计算结果也使小数点后保留相同的位数。     例:计算50.1+1.45+0.5812=?      修约为:50.1+1.4+0.6=52.1    先修约,结果相同而计算简捷。     例:计算 12.43+5.765+132.812=?      修约为:12.43+5.76+132.81=151.00   注意:用计数器计算后,屏幕上显示的是151,但不能直接记录,否则会影响以后的修约;应在数值后添两个0,使小数点后有两位有效数字。   2. 乘除法    先按有效数字最少的数据保留其它各数,再进行乘除运算,计算结果仍保留相同有效数字。     例:计算0.0121×25.64×1.05782=?      修约为:0.0121×25.6×1.06=?      计算后结果为:0.3283456,结果仍保留为三位有效数字。      记录为:0.0121×25.6×1.06=0.328   注意:用计算器计算结果后,要按照运算规则对结果进行修约    例:计算2.5046×2.005×1.52=?     修约为:2.50×2.00×1.52=?    计算器计算结果显示为7.6,只有两位有效数字,但我们抄写时应在数字后加一个0,保留三位有效数字。     2.50×2.00×1.52=7.60  
/
本文档为【有效数字运算规则】,请使用软件OFFICE或WPS软件打开。作品中的文字与图均可以修改和编辑, 图片更改请在作品中右键图片并更换,文字修改请直接点击文字进行修改,也可以新增和删除文档中的内容。
[版权声明] 本站所有资料为用户分享产生,若发现您的权利被侵害,请联系客服邮件isharekefu@iask.cn,我们尽快处理。 本作品所展示的图片、画像、字体、音乐的版权可能需版权方额外授权,请谨慎使用。 网站提供的党政主题相关内容(国旗、国徽、党徽..)目的在于配合国家政策宣传,仅限个人学习分享使用,禁止用于任何广告和商用目的。

历史搜索

    清空历史搜索