网站大量收购闲置独家精品文档,联系QQ:2885784924

数值修约及运算规则项目一材料与检测基本知识认知54课件讲解.pptx

数值修约及运算规则项目一材料与检测基本知识认知54课件讲解.pptx

  1. 1、本文档共20页,可阅读全部内容。
  2. 2、原创力文档(book118)网站文档一经付费(服务费),不意味着购买了该文档的版权,仅供个人/单位学习、研究之用,不得用于商业用途,未经授权,严禁复制、发行、汇编、翻译或者网络传播等,侵权必究。
  3. 3、本站所有内容均由合作方或网友上传,本站不对文档的完整性、权威性及其观点立场正确性做任何保证或承诺!文档内容仅供研究参考,付费前请自行鉴别。如您付费,意味着您自己接受本站规则且自行承担风险,本站不退款、不进行额外附加服务;查看《如何避免下载的几个坑》。如果您已付费下载过本站文档,您可以点击 这里二次下载
  4. 4、如文档侵犯商业秘密、侵犯著作权、侵犯人身权等,请点击“版权申诉”(推荐),也可以打举报电话:400-050-0827(电话支持时间:9:00-18:30)。
查看更多

;;1.数值修约:

通过省略原数值的最后若干位数字,调整所保留的末位数字,最后所得到的值最接近原数值的过程。

注:经数值修约后的数值称为(原数值的)修约值。

;2.有效数值:一个数从左边第一个不是零的数字数起一直到最后一位数字(包括零、科学计数法不计10的N次方)称为有效数字。

0.0109

3.109×105

0.0230

;;;2)拟舍弃数字的最后一位数字大于5,则进一,保留数字的末位数加1。

1268修约到“100”位.

13×102也意味着有效数字为位。

1300意味着有效数字为位。;3)拟舍弃数字的最左一位数字是5,且其后有非零数字也进一,保留数字的末位数字加1.

如10.5002.修约到“1”.得;4)拟舍弃数字的最后一位数字是5,且其后无数字或为0时,若所保留的数字为奇数(1、3、5、7、9),则进一,即保留数字的末位数字加1;若保留的末位数字为偶数(0、2、4、6、8)则舍去。

1.050 修约间隔为“0.1”。10×10-1(或1.0)有效数字为2位。

0.35 修约间隔为“0.1”。4×10-1(或0.4)有效数字为1位。

2500 修约间隔“1000”。2×103(2000)有效数字1、4位。

3500 修约间隔“1000”。4×103(4000)有效数字1、4位。;

5)口诀四舍五入,逢五看前数,奇入偶不入。

6)负数修约,先以负值绝对值按上述修约后,加上负号。

-15.456绝对值15.456.修约间隔“0.1”、

15.5.加上负号;-15.5。

;;2.特殊情况:

具体实施中,有时测试与计算部先将获得数值按指定的修约数位多一位或几位报出,而后由其他部门判定。为免产生修约的错误,应按下述步骤进行:

1)报出数值最右的非零数字为5时,应在数值右上角“+”或“-”,或不加符号,分别表明已进行过舍,进或未进。

16.50+表示实际值在修约前大于16.50,经修约舍弃后为16.50;

原数值可为:16.501“-”则是小于16.50比如16.499。;2)如果修约后的数字为5“+”者进一“-”者舍去

;;下列数值修约得到“个位”的0.5单位修约

;下列数值修约得到“百位”的0.2单位修约

;;2.乘、除(或乘方、开方)运算:

以参与运算的各数中有效数字位数最少的那个数为准。其余多保留一位。运算结果的有效数字位数应与参与运算的数中有效数字位数最少的那个数相同。若是过程计算,则可多保留一位。

;

1.1x0.3268x0.10300

1.1有效位数最小,进行修约

1.1x0.323x0.103=0.0370修约

如需参加下一步运算则取:;

文档评论(0)

一笑倾洁 + 关注
实名认证
内容提供者

PPT课件

1亿VIP精品文档

相关文档