联系我们
扫码添加微信咨询
有效数字的运算和修约的工具
发布日期:2026-04-01
来源:实验室ISO17025公众号
浏览量:9

有效数字的运算和修约的工具

ScreenShot_2026-04-01_092956_151 (1).png


 一

许多数值相加减时,所得和或差的绝对误差必较任何一个数值的绝对误差大。因此相加减时应以诸数值中绝对误差最大(即欠准数字的数位最大)的数值为准,以确定其他数值在 运算中保留的数位和决定计算结果的有效数位。

 许多数值相乘除时,所得积或商的相对误差必较任何一个数值的相对误差大。因此相乘除时应以诸数值中相对误差最大(即有效位数最少)的数值为准,确定其他数值在运算中保 留的数位和决定计算结果的有效数位。


在运算过程中,为减少舍入误差,其他数值的修约可以暂时多保留一位,等运算得到结果时,再根据有效位数弃去多余的数字。

113.65+0.00823+1.633=?

本例是数值相加减,在三个数值中13.65的绝对误差最大,其最末一位数为百分位(小数点后二位),因此将其他各数均暂先保留至千分位,即把0.00823修约成0.008,1.633不变,进 行运算:

13.65+0.008+1.633=15.291

最后对计算结果进行修约,15.291应只保留至百分位,而修约成15.29。

 2 14.131×0.07654÷0.78=?

本例是数值相乘除,在三个数值中,0.78的有效位数最少,仅为两位有效位数,因此各数 值均应暂保留三位有效位数进行运算,最后结果再修约为两位有效位数。

14.131×0.07654÷0.78=14.1×0.0765÷0.78

=1.08÷0.78=1.38=1.4

 3 计算氧氟沙星(C₁₈H₂₀FNO  的分子量。

在诸元素的乘积中,原子数的有效位数可视作无限多位,因此可根据各原子量的有效位数 对乘积进行定位;而在各乘积的相加中,由于《中国药典》规定分子量的数值保留到小数点后 二位(百分位),因此应将各元素的乘积修约到千分位(小数点后三位)后进行相加;再将计 算结果修约到百分位,即得。

12.0107×18+1.00794×20+18.9984032+14.0067×3+15.9994×4

=216.1926+20.1588+18.9984032+42.0201+63.9976

=216.193+20.159+18.998+42.020+63.998

=361.368

=361.37



 四

数值修约

通过省略原数值的最后若干位数字,调整所保留的末位数字,使最后所得到的值最接近原数值的过程。


修约间隔:

修约间隔(rounding interval)是指在进行数值修约时,确定结果精确度所对应的最小数值单位。它由保留的有效位数或小数位数决定。


举例说明:

若规定修约到小数点后 1 位

  • 修约间隔 = 0.1

  • 示例:12.34 → 修约间隔是 0.1,结果修约为 12.3



数值修约工具

1、微信搜索实验室资源网下程序:

11 (1).png

2、打开实验室资源网:

ScreenShot_2026-04-01_094408_296 (1).png

3、进入数值修约工具,输入需要修约数值及修约间隔即可获取答案,同时平台提供半个单位及0.2单位计算结果。

ScreenShot_2026-04-01_094459_423 (1).png

资源网工具推荐

LIMS——实验室必备全流程工具

电子签章——免费加盖骑缝章,页面章

标准查新——批量查新,跟踪查新标准状态

报告防伪——扫码即可,快捷方便

实验室名录——支持CNAS、CMA按各种条件查询

数值修约——免费修约工具 



常用工具
标准查新
防伪验证
电子签章
报告防伪
实验室名录
数值修约
推荐资讯
{{ item.pubdt }}
{{ item.source }}