按有效数字计算规则

285次

问题描述:

按有效数字计算规则希望能解答下

推荐答案

2023-12-24 15:43:48

有效数字运算规则 由于与误差传递有关,计算时加减法和乘除法的运算规则不太相同. 1.加减法 先按小数点后位数最少的数据保留其它各数的位数,再进行加减计算,计算结果也使小数点后保留相同的位数. 例:计算50.1+1.45+0.5812=? 修约为:50.1+1.4+0.6=52.1 先修约,结果相同而计算简捷. 例:计算 12.43+5.765+132.812=? 修约为:

1、2.43+5.76+132.81=151.00 注意:用计数器计算后,屏幕上显示的是151,但不能直接记录,否则会影响以后的修约;应在数值后添两个0,使小数点后有两位有效数字. 2.乘除法 先按有效数字最少的数据保留其它各数,再进行乘除运算,计算结果仍保留相同有效数字. 例:计算0.0121×25.64×1.05782=? 修约为:0.0121×25.6×1.06=? 计算后结果为:0.3283456,结果仍保留为三位有效数字. 记录为:0.0121×25.6×1.06=0.328 注意:用计算器计算结果后,要按照运算规则对结果进行修约 例:计算2.5046×2.005×1.52=? 修约为:2.50×2.00×1.52=? 计算器计算结果显示为7.6,只有两位有效数字,但我们抄写时应在数字后加一个0,保留三位有效数字. 2.50×2.00×1.52=7.60 网上找来的,还是很详细的,希望能帮到你。

(c)2008-2025 自学教育网 All Rights Reserved 汕头市灵创科技有限公司
粤ICP备2024240640号-6