有效数字修约和计算.pptxVIP

  • 36
  • 0
  • 约1.46千字
  • 约 21页
  • 2023-02-16 发布于上海
  • 举报
会计学;一;一、有效数字的修约规则; 由于有效数字的最后一位是不确定度所在的位置,因此有效数字在一定程度上反映了测量值的不确定度(或误差限值)。测量值的有效数字位数越多,测量的相对不确定度越小;有效数字位数越少,相对不确定度就越大。可见,有效数字可以粗略反映测量结果的不确定度。;2、有效数字的位数;3、有效数字的修约规则;进舍规则口诀:四舍六入五成双,五后非零则进一; 五后全零看五前,五前偶舍奇进一; 不论数字多少位,都要一次修约成。;练习: 0.23452、0.28350、0.55278、00.01500 两位有效数字:0.23、0.28、0.55、0.46、0.15 三位有效数字:0.235、0.284、0.553、0.455、0.0150;二、有效数字的运算法则;例如: 13.65 + 0.00823 + 1.633 = ? 分析:在三个数值中,13.65的绝对误差最大,其最末一位数为百分位(小数点后二位),因此将其他各数均暂先保留至千分位,即把0.00823修约成0.008,1.633不变,进行运算如下:13.65 + 0.008 + 1.633 =15.291 最后对计算结果进行修约,应只保留至百分位,故: 13.65 + 0.00823

文档评论(0)

1亿VIP精品文档

相关文档