有效数字和数值的修约运算及极限数值判定.pptVIP

  • 41
  • 0
  • 约6.48千字
  • 约 48页
  • 2017-05-27 发布于湖北
  • 举报

有效数字和数值的修约运算及极限数值判定.ppt

有效数字和数值的修约运算及极限数值判定要点

不允许连续修约? 拟修约数字应在确定修约间隔或指定修约数位后一次修约获得结果,而不得多次连续修约。 例1:修约97.46,修约间隔为l ? 正确的做法:97.46→97? 不正确的做法:97.46→97.5→98 例2:修约15.4546,修约间隔为l ? 正确的做法:15.4546→15? 不正确的做法:15.4546→15.455→15.46→15.5→16 报出数值最右的非零数字为5时,应在数值右上角加“+”或加“-”或不加符号,分别表明已进行过舍,进或未舍未进。  如:16.50+表示实际值大于16.50,经修约舍弃为16.50;16.50-表示实际值小于16.50,经修约进一为16.50。 如对报出值需进行修约,当拟舍弃数字的最左一位数字为5,且其后无数字或皆为零时,数值右上角有“+”者进一,有“-”者舍去,其他仍按修约规则进行。   如:将下列数字修约到个数位(报出值多留一位至一位小数)。   实测值   报出值    修约值    15.4546   15.5-    15 -11.4563  -11.5- -11   16.5203   16.5+    17   17.5000   17.5      18

文档评论(0)

1亿VIP精品文档

相关文档