- 1、原创力文档(book118)网站文档一经付费(服务费),不意味着购买了该文档的版权,仅供个人/单位学习、研究之用,不得用于商业用途,未经授权,严禁复制、发行、汇编、翻译或者网络传播等,侵权必究。。
- 2、本站所有内容均由合作方或网友上传,本站不对文档的完整性、权威性及其观点立场正确性做任何保证或承诺!文档内容仅供研究参考,付费前请自行鉴别。如您付费,意味着您自己接受本站规则且自行承担风险,本站不退款、不进行额外附加服务;查看《如何避免下载的几个坑》。如果您已付费下载过本站文档,您可以点击 这里二次下载。
- 3、如文档侵犯商业秘密、侵犯著作权、侵犯人身权等,请点击“版权申诉”(推荐),也可以打举报电话:400-050-0827(电话支持时间:9:00-18:30)。
查看更多
有效数字和数值修约 (一)基本概念 (二)数值修约 (三)运算规则 (四)注意事项 有效数字和数值修约 (一) 基本概念 1、有效数字 由可靠数字和最后一位不确定数字组成的数值(只含有一位可疑数字的数值) 2、有效数字定位(数位) 确定欠准数字的位置 有效数字和数值修约 欠准数字的位置可以是十进位的任何数位,用10n来表示,n可以是正整数,也可以是负整数 n=1 101=10 十数位 n=2 102=100 百数位 n=-1 10-1=0.1 十分位 n=-2 10-2=0.01 百分位 有效数字和数值修约 (一) 基本概念 3、有效位数 ①没有小数位且以若干个零结尾的数值 从非零数字最左一位向右数得到的位数减去无效零的个数 有效数字和数值修约 35000 若有两个无效零,为三位有效位数,写作350×102或3.50×104 若有三个无效零,为两位有效位数,写作35×103或3.5×104 有效数字和数值修约 有效位数 ②其它十进位数值 从非零数字最左一位向右数而得到的位数 3.2 0.32 0.032 0.0032 两位有效数字 3.20 三位有效数字 10.00 四位有效数字 12.490 五位有效数字 有效数字和数值修约 有效位数 ③非连续型数值(如个数、分数、倍数) 没有欠准数字,其有效位可视为无限多,在计算中应根据其他数值的最少有效位数而定 常数π 规格项 0.3g 1ml:25mg 有效数字和数值修约 有效位数 ④有效数字的首位数字为8或9时,其有效位数可以多计一位 85% 115% 三位有效位数 99.0% 110.0% 四位有效位数 有效数字和数值修约 (二)数值修约 GB8170—1987数值修约规则 对拟修约数值中超出需要保留位数时的舍弃,根据舍弃数来保留最后一位数或最后几位数 修约间隔 确定修约保留位数的一个数值,确定后修约值即为该数值的整数倍 有效数字和数值修约 被修约数值 修约值 修约值 (修约间隔为0.1) (修约间隔为10) 122.23 122.2 12×10 125.00 125.0 12×10 115.00 115.0 12×10 有效数字和数值修约 确定修约位数的表达方式 指定数位 指定修约间隔为10±n (n为正整数,包括0),按“1”单位修约 指定修约间隔为10-n,或指明将数值修约到小数点后n位 指定修约间隔为1(n为0),或指明将数值修约到个数位 有效数字和数值修约 指定修约间隔为10n,或指明将数值修约到10n数位,或指明将数值修约到十、百、千……数位 指定将数值修约成n位有效位数(n为正整数) 非1单位修约(0.5单位和0.2单位修约) 有效数字和数值修约 熔点测定结果修约间隔为0.5 0.1~0.2℃舍去,0.3~0.7℃修约为0.5 ℃, 0.8~0.9℃进为1℃,并以修约后的数据报告 当标准规定的熔点范围其有效数字的定位为个位数时,则其测定结果的数据应按修约间隔为1进行修约,即一次修约到标准规定的个位数 91.0~94.5℃ 155~158.5℃ 147~151℃ 有效数字和数值修约 修约规则 在未特别指明修约单位的情况下,一般都按“1”单位修约进行 有效数字和数值修约 有效数字和数值修约 有效数字和数值修约 (三)运算规则 加减运算 以绝对误差最大(欠准数字的数位最大)的数值为准,确定其它数值保留的数位和计算结果的有效数位 13.65(百分位)+0.00823+1.633 13.65+0.008+1.633=15.291→15.29 有效数字和数值修约 (三)运算规则 乘除运算 以相对误差最大(有效位数最少)的数值为准,确定其它数值保留数位和计算结果的有效数位 14.131×0.07654÷0.78(两位) 14.1×0.0765÷0.78=1.38→1.4 有效数字和数值修约 (四)注意事项 1 正确记录检测所得的数值
文档评论(0)