液化石油气分析检验质量控制的数据处理.docx

液化石油气分析检验质量控制的数据处理.docx

  1. 1、本文档共7页,可阅读全部内容。
  2. 2、原创力文档(book118)网站文档一经付费(服务费),不意味着购买了该文档的版权,仅供个人/单位学习、研究之用,不得用于商业用途,未经授权,严禁复制、发行、汇编、翻译或者网络传播等,侵权必究。
  3. 3、本站所有内容均由合作方或网友上传,本站不对文档的完整性、权威性及其观点立场正确性做任何保证或承诺!文档内容仅供研究参考,付费前请自行鉴别。如您付费,意味着您自己接受本站规则且自行承担风险,本站不退款、不进行额外附加服务;查看《如何避免下载的几个坑》。如果您已付费下载过本站文档,您可以点击 这里二次下载
  4. 4、如文档侵犯商业秘密、侵犯著作权、侵犯人身权等,请点击“版权申诉”(推荐),也可以打举报电话:400-050-0827(电话支持时间:9:00-18:30)。
查看更多
液化石油气分析检验质量控制的数据处理 一、有效数字及运算法则 1. 有效数字 在质量检验工作中,测得的绝大部分数据是属于连续型的量, 其数值的末一位一般具有一定的误差或不确定性。故对末一位数字 可认为是不准确或可疑的,称为“可疑数字”或叫“欠准数字”, 而其前边各数所代表的数量,则均为准确知道的,称为“可靠数 字”。我们称此时所记数字均为有效数字。就是说有效数字是“可 疑数字”和“可靠数字”的总称。也可以说从第一个不为零的数字 开始至末位数字被称为有效数字。 至于“可疑数字”的欠准程度,则有± 1、± 2、±5的不同约定 也有为了与数字修约规则一致,约定不超过可疑数字半个单位的, 这时如果写出数字0.5就表示其真值在0.45?0.55之间。所谓约定 就是说没有统一的规定可循。在质量检验的具体工作中,一般是根 据检测的具体条件决定,包括所用仪器的精度、方法的精确度等。 必要时,可在观测值的后面加上欠准程度,如:原油闪点 38C士 1C, 硫的相对原子质量 32.064 ± 0.003 等。 2. 有效数字运算法则 用观测值计算分析结果时,就要进行有效数字的运算,运算应 遵守有关法则。 几个观测值相加减时,结果的有效数字应以各观测值的最大 可疑位数为准,即以小数位数最少的为准。例如:求 12.23 与 0.1234 之和。应以 12.23 为准,即和应为 1 2.35 。因为 12.23 的小数 点后第二位上的 3是可疑的,即使 0.1234 的小数点后第三位是可靠 数字,对求得的和也没有意义。 观测值相乘、除时,积、商有效数字的位数一般应与有效数 字位数最少的观测值相同。例如,0.15 X9.6876的正确结果是1.5 , 而不是 1 . 453 1 4 。但这个规则只能说适用于一般情况,在特殊情况下 就不适用。确定积、商有效数字位数的普遍适用的规则,是它们的 相对误差应与因数中最大的相对误差相当。 对观测值进行乘方和开方时,求得乘幂的位数应不超过观测 值本身的位数,且幂次愈高,乘幂误差愈大,应留的位数愈少;求 得方根的位数应至少与观测值本身的位数相同,且开方的次数愈高, 方根误差愈小,应留的位数愈多。 观测值的对数小数点后所取的位数,应不多于观测值有效数 字的位数。 例如, 1g901.2=2.95482 …… 按约定,对数的下限和上限是 1g901.1=2.95477 …… 1g901.3=2.95486 可见,对数的前四位是可靠数字,第五位欠准程度是± 1,可以 把对数表示为五位有效数字,即 1g901.2=2.9548 关于有效数字的修约,应按照国家标准 GB817—87《数值修 约规则》进行。 在运算过程中可以多保留一位有效数字。因为偶然会发生连 续“舍”或连续“进”的情况而影响最后结果。当然,最后结果的 位数仍应按 (1) 、(2) 、(3) 、(4) 、(5) 条的规定处理。 把(1) 、(2) 、(3) 、(4) 四条规则概括起来可以知道,进行加、 减、乘、除运算,一般都要分成三步: 把各数修约到比最后结果的位数多一位。 进行加、减、乘、除运算 最后对计算结果进行修约。 如果在全部运算中除加、减、乘、除外还有乘方、开方、求对 数的运算,则应按 (3) 、 (4) 条的规定,用求上、下限的方法确定乘 幕、方根、对数有效数字的位数,再把它们纳入①、②、③三个步 骤中,求出最后结果。 在所有计算式中,如根号 2、 1/2 等数字,不连续物理量的 数目,以及完全从理论计算出的数字如 n、e等的有效数字位数可 以无限制保留,需要几位就写几位。其他如相对原子质量等基本数 量,如需要的有效位数少于公布的数值,可以根据需要保留。单位 换算因数则需根据原单位的有效数位决定,如 1kg=1000g,有效数位 无限制,而气体常数R值则有一定的最高有效数位。 二、准确度与精密度 准确是指观测值与真值接近。观测值与真值之差叫误差。观测 值与真值越接近,观测值的误差越小,观测值就越准确。因此,观 测的准确度是指观测的正确性,即观测结果与真值的接近程度。在 实际工作中,人们常常把某一误差很小的观测值作为“真值”。例 如,在定量分析中把标准样品或纯净物质的组分含量当作没有误差 的真值。这样,就可以把实际测得的组分含量与之比较,来衡量测 定结果的准确度。 精密是指一组观测值彼此符合。一组观测值彼此越接近,观测 就越精密。因此,观测的精密度是指观测的重现性。精密度的高低 不能说明观测值与真值是否接近,即精密的观测不一定是准确的, 这是因为引起观测值远离真值的误差,会对一系列的观测发生相同 的影响,因而无损于观测的精密度。 三、误差及数据处理 1. 误差的定义 测量的数据经常受偶然因素的影响而变化。例如:一个化验员 每日所化验的样品数;测定某个天然气

文档评论(0)

wumanduo11 + 关注
实名认证
内容提供者

该用户很懒,什么也没介绍

1亿VIP精品文档

相关文档