本文介绍有效数字乘除法的计算方法,适用于大多数大学物理实验数据和科研实验数据的处理过程。
工具/原料
有效数字,计算器
方法/步骤
1、首先要对参与乘除法运算过程中的每个因数进行有效数字和最大误差的分析,比如要计算如下一个乘除法运算:
2、第一个因数4.178是四位有效数字,最后一位8是在千分位上:
3、第二个因数10.1是三位有效数字,最后一位1是在十分位上:
4、第三个因数2.3333是五位有效数字,最后一位3是在万分位上:
5、第四个因数1.22是三位有效数字,最后一位2是在百分位上:
6、最后结果先用计算器计算出来是120饱终柯肢.12135462,从上面分析过程可知,最少的有效数字是3位,所以就把最终结果保留到和最少有效数字位数(这里是三位最少)相同,即可得到120