[高等教育]误差与不确定度课件.pptVIP

  • 2
  • 0
  • 约4.36千字
  • 约 45页
  • 2018-03-05 发布于浙江
  • 举报
[高等教育]误差与不确定度课件

四、数据处理 (2)拟舍弃数字的最左一位数字大于5;或者是5,而其后跟有并非全部为0的数字时,则进一,即保留的末位数字加1。 例1:将1268修约到 “ 百 ” 数位,得13×10 2 (特定时可写为1300)。 例2:将1268修约成三位有效位数,得127×10(特定时可写为1270)。 例3:将10.502修约到个数位,得11。 四、数据处理 (3) 拟舍弃数字的最左一位数字为5,而右面无数字或皆为0时,若所保留的末位数字为奇数(1,3,5,7,9)则进一,为偶数(2,4,6,8,0)则舍弃。 例1:修约间隔为0.1(或10 -1 ) 拟修约数值  修约值 1.050     1.0 0.350     0.4 例2:修约间隔为1000(或10 3 ) 拟修约数值  修约值 2500    2×10 3 (特定时可写为2000) 3500    4×10 3 (特定时可写为4000) 四、数据处理 例3:将下列数字修约成两位有效位数 拟修约数值   修约值 0.0325    0.032 32500    32×

文档评论(0)

1亿VIP精品文档

相关文档