- 1、本文档共9页,可阅读全部内容。
- 2、原创力文档(book118)网站文档一经付费(服务费),不意味着购买了该文档的版权,仅供个人/单位学习、研究之用,不得用于商业用途,未经授权,严禁复制、发行、汇编、翻译或者网络传播等,侵权必究。
- 3、本站所有内容均由合作方或网友上传,本站不对文档的完整性、权威性及其观点立场正确性做任何保证或承诺!文档内容仅供研究参考,付费前请自行鉴别。如您付费,意味着您自己接受本站规则且自行承担风险,本站不退款、不进行额外附加服务;查看《如何避免下载的几个坑》。如果您已付费下载过本站文档,您可以点击 这里二次下载。
- 4、如文档侵犯商业秘密、侵犯著作权、侵犯人身权等,请点击“版权申诉”(推荐),也可以打举报电话:400-050-0827(电话支持时间:9:00-18:30)。
查看更多
有效数字修约和运算法则
有效数字修约与运算法则
1.有效数字的基本概念:
(1)有效数字是指在检验工作中所能得到有实际意义的数值,其最后一位数字欠准是允许的,这种由可靠数字和最后一位不确定数字组成的数值,即为有效数字。
(2)有效数字的定位(数位),是指确定欠准数字的位置,这个位置确定后,其后面的数字均为无效数字。
例如,一支25ml的滴定管,其最小刻度为0.1ml,如果滴定管的体积介符于20.9ml到21.0ml之间,则需估计一位数字,读出20.97ml,这个7就是个欠准的数字,这个位置确定后,它有效位数就是4个,即使其后面还有数字也只是无效数字。
(3)在没有小数位且以若干个零结尾的数值中,有效位数系指从非零数字最左一位向右数得到的位数减去无效零(即仅为定位用的零)的个数。
例如:35000,若有两个无效零,则为三位有效位数,应写作350×102或3.50×104;若有三个无效零,则为两位有效位数,应写作35×103或3.5×104。
(4)在其他10进位数中,有效数字系指从非零数字最左一位向右数而得到的位数,例如:3.2、 0.32、0.032和0.0032均为两位有效位数;0.320为三位有效位数;10.00为四位有效位数;12.490为五位有效位数。
(5)非连续型数值:(如个数、分数、倍数)是没有欠准数字的,其有效位数可视为无限多位。例如,H2SO4中的2和4是个数。常数л和系数 等。数值的有效位数可视为无限多位。每1ml××滴定液(0.1mol/L)中的0.1为名义浓度,规格项下的0.3g或“1ml:25mg”中的“0.3”、“1”、“25”均为标示量,其有效位数,也为无限多位。即在计算中,其有效位数应根据其他数值的最少有效位数而定。
(6)pH值等对数值,其有效位数是由其小数点后的位数决定的,其整数部分只表明其真数的乘方次数。
如:pH=11.26 ([H+]=5.5×10-12mol/L),其有效数字只有两位。
(7)有效数字的首位数字为8或9时,其有效位数可以多计一位,例如:85%与115%,都可以看成是三位有效数字;99.0%与101.0%都可以看成是四位有效数字。
2.数字的修约及其取舍规则
(1)数字修约是指拟修约数值中超出需要保留位数时的舍弃,根据舍弃数来保留最后一位数或最后几位数。
(2)修约间隔是确定修约保留位数的一种方式,修约间隔的数值一经确定,修约值即应为该数值的整倍数。例如:指定修约间隔为0.1,修约值即应在0.1的整数倍中选取,也就是说,将数值修约到小数点后一位。
(3)确定修约位数的表达方式:
① 指定数位:
★指定修约间隔为10-n(n为正整数),或指明将数值修约到小数点后n位。
★指定修约间隔为1,或指明将数值约到个数位。
★指定将数值修约成n位有效位数(n为正整数)。
★指定修约间隔为10n(n为正整数),或指明将数值修约到10n数位,或指明修约到“十” 、“百”、“千”数位。
★指定将数值修约成n位有效位数(n为正整数)。
★在相对标准偏差(RSD)的求算中,其有效数位应为其1/3值的首位(非零数字),故通常为百分位或千分位。
② 进舍原则
★拟舍去数字的最左一位数字少于5时,则舍去,即保留的各位数字不变。例如,例1,将12.1496,修约到一位小数(十分位),得12.1。
例2,将12.1496,修约到两位有效位数,得12。
★拟舍去数字的最左一位数字大于5时,或者是5,而后跟有并非全部为0的数字,则进一,即在保留的末位数字加1。
⊙ 例1,将1268,修约到百数位,得13×102。
⊙ 例2,将1268,修约到十数位(即三位有效数字) , 得127×10。
⊙ 例3, 将10.502修约到个数位,得11。
★拟舍去数字的最左一位数字为5,而右面无数字或皆为0时,若所保留的末位数为奇数(1,3,5,7,9)则进一。为偶数(2,4,6,8,0)则舍弃。(留双的原则)
⊙例1,将1.050按间隔为0.1(10-1)修约,修约值为:1.0。
⊙例2,将0.350按间隔为0.1(10-1)修约,修约值为:0.4
⊙例3,将2500按间隔为1000(103)修约,修约值为:2×103。
⊙例4,将3500按间隔为1000(103)修约,修约值为:4×103 。
⊙例5,将0.0325修约成两位有效位数,修约值为:0.032或3.2×10-2。
⊙例6,将32500修约成两位有效位数,其修约值为:32×103。
★在相对偏差(RSD)中,采用“只进不舍”的原则,
如,0.163%,如为两个有效位时,宜修约为0.17%;
0.52%,如为一个有效位时,宜修约为0.6%。
★不许连续修约。
拟修约的数字应在确定修约位
您可能关注的文档
- 电子组装工艺及设备(大二下学期)第三节接地技术2012.ppt
- 我对园林专业及初步认识.doc
- 电子经纬仪DJD2电子经纬仪及使用方法.ppt
- 我对花卉学及认识.doc
- 我校对年龄结构及老化及对策.doc
- 我用开打趣及口气把我及想法说了出来.doc
- 我眼中及公共卫生.doc
- 我眼中及戏剧 评窝头会馆.doc
- 我国湖泊富营养化及现状及研究.doc
- 成都市城市空间形态结构和特色.doc
- 2024—2025学年四川省绵阳市高二上期末考试英语试卷.doc
- 2025春赣美版(2024)美术小学一年级下册第一单元《2 勇敢的我》教学设计.docx
- 2025春赣美版(2024)美术小学一年级下册第四单元《11 多功能清扫工具》教学设计.docx
- 2025春赣美版(2024)美术小学一年级下册第一单元《3 幸福的家》教学设计.docx
- 甘肃省武威市凉州区2024-2025学年高一下学期第一次质量检测英语试卷含答案或解析.pdf
- 2024—2025学年四川省泸县第一中学等部分学校高三下学期开学考英语试卷.doc
- 2024—2025学年四川省南充市高二上学期1月期末英语试卷.doc
- 2024—2025学年陕西省西安市铁一中学高二上学期期末英语试卷.doc
- 2024—2025学年陕西省西安市铁一中学高一上学期期末英语试卷.doc
- 甘肃省武威市凉州区2024-2025学年高一下学期第一次质量检测数学试卷含答案或解析.pdf
最近下载
- DB37T4649.2-2023 智能制造第2部分:智能工厂评价体系指南_地方标准.pdf VIP
- 华东理工大学化学反应工程课件-第1章绪论.ppt VIP
- 华东理工大学第9章热量传递与反应器的热稳定性.ppt VIP
- 华东理工大学化学反应工程第4章理想管式反应器.ppt VIP
- 中日关于非物质文化遗产保护的对比研究.docx
- 2024贵州省农村信用社招聘历年考试试题及答案.docx VIP
- 第26课 中华人民共和国成立和向社会主义的过渡 (16).pptx VIP
- 8.1 薪火相传的传统美德(精品课件)--2025学年七年级道德与法治全一册同步精品课堂(统编版五四学制2024).pptx VIP
- DB62_T 3268-2024 人民防空工程平战功能转换技术标准.pdf VIP
- 2025新人教版道德与法治一年级下册《第三单元 幸福一家人》大单元整体教学设计[2022课标].docx
文档评论(0)