- 1、原创力文档(book118)网站文档一经付费(服务费),不意味着购买了该文档的版权,仅供个人/单位学习、研究之用,不得用于商业用途,未经授权,严禁复制、发行、汇编、翻译或者网络传播等,侵权必究。。
- 2、本站所有内容均由合作方或网友上传,本站不对文档的完整性、权威性及其观点立场正确性做任何保证或承诺!文档内容仅供研究参考,付费前请自行鉴别。如您付费,意味着您自己接受本站规则且自行承担风险,本站不退款、不进行额外附加服务;查看《如何避免下载的几个坑》。如果您已付费下载过本站文档,您可以点击 这里二次下载。
- 3、如文档侵犯商业秘密、侵犯著作权、侵犯人身权等,请点击“版权申诉”(推荐),也可以打举报电话:400-050-0827(电话支持时间:9:00-18:30)。
查看更多
例如, 0.235438×28.6×61.8911 ≈0.2354×28.6×61.89 =414.6707116 三个参与运算的数值的有效数字位数分别为六位、三位、六位,所以最终计算结果用三位有效数字表示,为415或4.15×102。 3.乘方和开方 乘方或开方时,原数值有几位有效数字,计算结果就可以保留几位有效数字。若计算结果还要参与运算,则乘方或开方所得结果可比原数值多保留一位有效数字。 例如:3.582=12.8614,运算结果保留三位有效数字,为12.9。 ,运算结果保留三位有效数字为2.51。若原结果还要参与进一步运算,则先保留为2.506。 4.对数运算 在数值对数计算时,所取对数的小数点后的位数(不包括首数)应与真数的有效数字位数相同。换言之,对数有效数字的位数,只计小数点以后的数字的位数,而不计对数的整数部分。 例如:log(100.44) = log(1.0044×102) = 2.0019067…。 最后结果应为2.00191,结果的有效数字位数是五位(小数后位数)而不是六位(整数位数加小数位数),因整数部分只说明该数的10的方次。 5.平均值 计算几个数值的平均值时,先将计算结果修约至比要求的位数多一位,再按数值修约规则处理。 例如: 修约后平均值计算结果为6.39。 6.方差和标准偏差 方差和标准偏差在运算过程中对中间结果不做修约,只将最后结果修约至要求的位数。 注意: ①在所有计算式中,常数(π、e等)以及非检测所得的计算因子(倍数或分数, 等)的有效数字位数,可视为无限,需要几位就取几位。 ②使用计算器(或电脑)进行计算时,一般不对中间每一步骤的计算结果进行修约,仅对最后的结果进行修约,使其符合事先所确定的位数。 * 0.0257中, “2”前面的两个“0”均非有效数字,因为这些 “0”至于所取的单位有关,而与测量的精度无关;若兼单位缩小至百分之一,则0.057就变成2.57,前面的”0”就没有了,有效数字只有三位;类似的像123、12.3、0.123、0.0123、0.00123等数的有效数字位数都是三位。 GB/T 8170-2008《数值修约规则》 有效数字和数值的修约及其运算 一、数值修约 一、数值修约的概念及意义 二、数值修约的基础知识 三、数值修约规则及注意事项 四、数值运算规则 由测量所得的赋予被测量的值称为测量结果。 例如,用分析天平称得一个试样的质量为 1.1080g, 1.1080g就是一个测量结果。 由测量与测量结果的概念可看出,测量结果可表示如下: 测量结果=数(值)×单位量值 根据误差公理,测量总是存在误差的,测量结果只能是接近于测量真值的估计值,因而表示测量结果的数(值)是含有误差的数(值), 就是说,表示测量结果的的数值是一个近似值。 (1)数值修约的概念 对某一表示测量结果的数值(拟修约数),根据保留位数的要求,将多余的数字进行取舍,按照一定的规则,选取一个近似数(修约数)来代替原来的数,这一过程称为数值修约。 (由测量所得的赋予被测量的值称为测量结果) 1. 数值修约的概念及意义 (2)数值修约的意义 a.出于准确表达测量结果的需要。 测量结果大都是通过间接测量得到的,间接测量的结果通常是通过计算得出的,其组成数字往往较多, 但具体测量的精度是确定的,就是说表示合理表征测量结果的数字个数应是确定的,最终提供的测量结果应合理反映这一点,故此,通过对计算方法和直接测量得到的数据的分析,得到合理的保留位数,将多余的数字进行取舍以得到合理反映测量精度的测量结果,即进行数值修约就非常必要。另外,即使采用直接测量,有时在提供测量程序要求的但高于实际测量精度的测量结果时也需要进行合理的数值修约。 b.在进行具体的数值计算前,对参加计算的数值进行修约,可简化计算,降低计算出错的机会。 如:4.78961×2.13×102.4387926=? 若不先进行数值修约就直接计算,繁琐且容易出错。若在计算前先按数值修约规则进行修约,舍去多余参与计算的数值之中没有意义的数字,则计算会简单得多,计算也就不容易出错。 二、数值修约的基础知识 1. 有效数字 2 修约间隔 3.修约数位及确定修约位数的表达方式 1. 有效数字 1.1有效数字 有效数字是指在分析和测量中所能得到的有实际意义的数字。测量结果是由有效数字组成的(前后定位用的“0”除外)。 有效数字的前几位都是准确数字,只有最后一位是可疑数字,称为“不定数字”。 如前述的1.108
文档评论(0)