有效数字数值修约运算实用指南.pdf

1目的

为对实验过程中实际测量或计算而得的数值进行统一规范的处理,特制定本规程,保

证数据计算合理、准确有效。

结果时再根据有效位数弃去多余的数字例本例是数值相加减在三个数值中的绝对误差最大其最末一位数为百分位小数点后二位因此将其他各数均暂先保留至千分位即把修约成不变进行运算最后对计算结果进行修约应只保留至百分位而修约成例本例是数值相乘除在三个数值中

2范围

适用于工作中除生物检定统计法以外的各种测量或计算而得的数值。

3职责

实验员:负责按本操作规程在计算过程中对

文档评论(0)

1亿VIP精品文档

相关文档