- 1、原创力文档(book118)网站文档一经付费(服务费),不意味着购买了该文档的版权,仅供个人/单位学习、研究之用,不得用于商业用途,未经授权,严禁复制、发行、汇编、翻译或者网络传播等,侵权必究。。
- 2、本站所有内容均由合作方或网友上传,本站不对文档的完整性、权威性及其观点立场正确性做任何保证或承诺!文档内容仅供研究参考,付费前请自行鉴别。如您付费,意味着您自己接受本站规则且自行承担风险,本站不退款、不进行额外附加服务;查看《如何避免下载的几个坑》。如果您已付费下载过本站文档,您可以点击 这里二次下载。
- 3、如文档侵犯商业秘密、侵犯著作权、侵犯人身权等,请点击“版权申诉”(推荐),也可以打举报电话:400-050-0827(电话支持时间:9:00-18:30)。
查看更多
检测数据修约处理;目录;术语;数值修约
通过省略原数值的最后若干位数字,调整所保留的末位数字,使最后所得到的值最接近原数值的过程。
注:经数值修约后的数值称为修约值。;有效数字
该数值从其第一个不是零的数字起到最末一位数的全部数字即为有效数字。 例1:3.2,0.32,0.032,0.0032均为两位有效位数;0.0320为三位有效位数。 例2:12.490为五位有效位数;10.00为四位有效位数。
例3:1.35cm =13.5 mm =0.0135m ,这三种表示法完全等效,均为三位有效数字。;?;?;确定修约位数的表达方式;确定修约位数的表达方式;进舍规则
;四舍六入 逢五取偶
;拟舍弃数字的最左一位数字为5,而右面无数字或皆为0时,
若所保留的末位数字为奇数(1,3,5,7,9)则进一,
若所保留的末位数字为偶数(2,4,6,8,0)则舍弃。
(逢五取偶)
例1:1.050修约到1位小数,得1.0 。
例2:0.35 修约到1为小数,得0.4 。
;负数修约时,先将它的绝对值按数字进舍规则(四舍六入 逢五取偶)进行修约,然后在修约值前面加上负号。
例:将下列数字修约到三位小数
拟修约数值 修约值
-0.0365 -0.036;不连续修约;1、拟修约数字应在确定修约位数后一次修约获得结果,而不得多次按进舍规则连续修约。
例如:修约15.4546,修约间隔为1
正确的做法: 15.4546→15
不正确的做法: 15.4546→15.455→15.46→15.5→16
;2、在具体实施中,有时测试与计算部门先将获得数值按指定的修约位数多一位或几位报出,而后由其他部门判定。为避免产生连续修约的错误,应按下述步骤进行。;如果报出值需要进行修约,当拟舍弃数字的最左一位数字为5而后面无数字或皆为零时,数值后面有(+)号者进一,数值后面有(-)号者舍去,其他仍按数字修约规则进行。
例:将下列数字修约到个数位(报出值多留一位到一位小数)。
实测值 报出值 修约值
15.4546 15.5(一) 15
-15.4546 -15.5(一) -15
16.5203 16.5(+) 17
-17.5000 -17.5 -18
;0.5单位修约及0.2单位修约
;0.5单位修约(半个单位修约)
指修约间隔为指定数位的0.5单位,即修约到指定数位的0.5单位。
修约方法:将拟修约数值乘以2,按指定数位依数字修约规则修约,所得数值再除以2。
例:将下列数字修约到个数位的0.5单位
;0.2单位修约
指修约间隔为指定数位的0.2单位,即修约到指定数位的0.2单位。
修约方法:将拟修约数值乘以5,按指定数位依数字修约规则修约,所得数值再除以5。
例:将下列数字修约到 “百”数位的0.2单位(或修约间隔为20)
; 计算法则;加减运算;乘除运算 ;平方或开方运算;对数运算 ;混合运算 ;
谢 谢
您可能关注的文档
最近下载
- 新22J06 楼梯 参考图集.docx VIP
- 自动控制原理-课后习题及答案.pdf VIP
- 地下矿山重大安全风险管控责任清单.docx VIP
- 酸碱溶液pH计算教学.pdf VIP
- 前期物资市场调查报告资料.doc
- 米线店创业计划书(5).pptx VIP
- (高清版)DB21∕T 3573.4-2022 公共机构能耗定额 第4部分:医疗卫生类 .pdf VIP
- 山东省济南市槐荫区2024-2025学年四年级上学期期末英语试题(含笔试解析,无听力原文,无音频).docx VIP
- 胰岛素皮下注射的中华护理学会团体标准2026.pptx
- 江苏科技大学2024-2025学年第2学期《线性代数》期末试卷(B卷)及参考答案.docx
原创力文档


文档评论(0)