有效数字的运算和修约的工具

一
许多数值相加减时,所得和或差的绝对误差必较任何一个数值的绝对误差大。因此相加减时应以诸数值中绝对误差最大(即欠准数字的数位最大)的数值为准,以确定其他数值在 运算中保留的数位和决定计算结果的有效数位。
二
许多数值相乘除时,所得积或商的相对误差必较任何一个数值的相对误差大。因此相乘除时应以诸数值中相对误差最大(即有效位数最少)的数值为准,确定其他数值在运算中保 留的数位和决定计算结果的有效数位。
三
在运算过程中,为减少舍入误差,其他数值的修约可以暂时多保留一位,等运算得到结果时,再根据有效位数弃去多余的数字。
例113.65+0.00823+1.633=?
本例是数值相加减,在三个数值中13.65的绝对误差最大,其最末一位数为百分位(小数点后二位),因此将其他各数均暂先保留至千分位,即把0.00823修约成0.008,1.633不变,进 行运算:
13.65+0.008+1.633=15.291
最后对计算结果进行修约,15.291应只保留至百分位,而修约成15.29。
例 2 14.131×0.07654÷0.78=?
本例是数值相乘除,在三个数值中,0.78的有效位数最少,仅为两位有效位数,因此各数 值均应暂保留三位有效位数进行运算,最后结果再修约为两位有效位数。
14.131×0.07654÷0.78=14.1×0.0765÷0.78
=1.08÷0.78=1.38=1.4
例 3 计算氧氟沙星(C₁₈H₂₀FN₃O₄) 的分子量。
在诸元素的乘积中,原子数的有效位数可视作无限多位,因此可根据各原子量的有效位数 对乘积进行定位;而在各乘积的相加中,由于《中国药典》规定分子量的数值保留到小数点后 二位(百分位),因此应将各元素的乘积修约到千分位(小数点后三位)后进行相加;再将计 算结果修约到百分位,即得。
12.0107×18+1.00794×20+18.9984032+14.0067×3+15.9994×4
=216.1926+20.1588+18.9984032+42.0201+63.9976
=216.193+20.159+18.998+42.020+63.998
=361.368
=361.37
四
数值修约
通过省略原数值的最后若干位数字,调整所保留的末位数字,使最后所得到的值最接近原数值的过程。
修约间隔:
修约间隔(rounding interval)是指在进行数值修约时,确定结果精确度所对应的最小数值单位。它由保留的有效位数或小数位数决定。
举例说明:
若规定修约到小数点后 1 位:
修约间隔 = 0.1
示例:12.34 → 修约间隔是 0.1,结果修约为 12.3
五
数值修约工具
1、微信搜索实验室资源网下程序:

2、打开实验室资源网:

3、进入数值修约工具,输入需要修约数值及修约间隔即可获取答案,同时平台提供半个单位及0.2单位计算结果。

