- 1、本文档共12页,可阅读全部内容。
- 2、原创力文档(book118)网站文档一经付费(服务费),不意味着购买了该文档的版权,仅供个人/单位学习、研究之用,不得用于商业用途,未经授权,严禁复制、发行、汇编、翻译或者网络传播等,侵权必究。
- 3、本站所有内容均由合作方或网友上传,本站不对文档的完整性、权威性及其观点立场正确性做任何保证或承诺!文档内容仅供研究参考,付费前请自行鉴别。如您付费,意味着您自己接受本站规则且自行承担风险,本站不退款、不进行额外附加服务;查看《如何避免下载的几个坑》。如果您已付费下载过本站文档,您可以点击 这里二次下载。
- 4、如文档侵犯商业秘密、侵犯著作权、侵犯人身权等,请点击“版权申诉”(推荐),也可以打举报电话:400-050-0827(电话支持时间:9:00-18:30)。
有效数字的运算规则;有效数字的运算规则;例:
2.776+36.5789-0.2397+6.34
=2.78+36.58-0.24+6.34
=45.46;2.乘除法
几个数据相乘或相除时,它们的积或商的有效数字位数的保留必须以各数据中有效数字位数最少(相对误差最大)的数据为准。例:
(0.0325?5.103?60.06)/139.8
=(0.0325?5.10?60.1)/140
=0.0711541071428
=0.0712;例:
;对数据进行乘方或开方运算时,所得结果的有效数字位数的保留与原数据相同;
例:6.252=39.0625=39.1
对数有效数字的位数(小数点后的位数)应与原数据的位数相同。
例:;说明:
1.在乘除运算中,若某一数据的第一位有效数字大于或等于8,其有效数字位数可多算一位
例15.32×0.1232/9.3=0.2023548387096=0.202
2.在分析结果计算中,遇到非测量值,如倍数、分数、常数等可不考虑其有效数字位数(认为有无穷多位),结果有效数字位数由其它数据决定。
;3.分析结果的数据应与技术要求的有效数字位数一致。一般的对于各种误差和偏差的计算,要求保留2位有效数字;定量分析结果(如用百分数表示)保留到小数点后第二位。
例85.27%7.58%0.19%;4.使用计算器计算定量分析结果时,应根据数字修约规则、运算规则进行取舍,不可全部照抄计算器。
5.在混合运算中,有效数字的保留以最后一步计算的规则执行。
例:0.1025×(27.30-25.20)
=0.1025×2.10
=0.215
;6.为了提高计算结果的可靠性,在实际工作中,一般暂时多保留一位,计算后再修约到需要的位数。;(0.0325?5.103?60.06)/139.8
=(0.0325?5.10?60.1)/140
=0.0711541071428
=0.0712;掌握加减法运算结果有效数字位数的保留
掌握乘除法运算结果有效数字位数的保留
您可能关注的文档
最近下载
- 施工现场临时消防监理实施细则(1).doc VIP
- 既有建筑绿色改造.docx VIP
- (精编)沪教版上海市小学二年级数学上册期末考试试题(共4套,已编好文档).pdf VIP
- 第五章碳水化合营养.doc VIP
- 2025年高考地理真题分类汇编:专题08 人口(全国通用)(解析版).docx VIP
- 酒店各部门SOP(餐饮部、财务部、客房部、营销).doc VIP
- 湖北襄阳东津新区政务服务中心公开招聘2人(必考题)模拟卷及答案.docx VIP
- 普传(POWTRAN)变频器PI500变频器使用说明书.pdf
- 2025年高中数学必修第一册同步课件(湘教版)3.1.3 简单的分段函数.pptx VIP
- 废旧轮胎项目商业计划书.docx VIP
文档评论(0)