[如何确保测量数据的有效性.doc

  1. 1、本文档共5页,可阅读全部内容。
  2. 2、原创力文档(book118)网站文档一经付费(服务费),不意味着购买了该文档的版权,仅供个人/单位学习、研究之用,不得用于商业用途,未经授权,严禁复制、发行、汇编、翻译或者网络传播等,侵权必究。
  3. 3、本站所有内容均由合作方或网友上传,本站不对文档的完整性、权威性及其观点立场正确性做任何保证或承诺!文档内容仅供研究参考,付费前请自行鉴别。如您付费,意味着您自己接受本站规则且自行承担风险,本站不退款、不进行额外附加服务;查看《如何避免下载的几个坑》。如果您已付费下载过本站文档,您可以点击 这里二次下载
  4. 4、如文档侵犯商业秘密、侵犯著作权、侵犯人身权等,请点击“版权申诉”(推荐),也可以打举报电话:400-050-0827(电话支持时间:9:00-18:30)。
查看更多
[如何确保测量数据的有效性

如何确保测量数据的有效性 How to ensre the validity ofthe measuring data 崔建英 ?马国军),即最佳估计值(x)部分,测不准部分(U),前者又称为结果部分,后者又称为不确定度部分。这两部分的数据用多少位数字来表示。多于位数又如何修约,是一个非常重要的问题。测量数字的位数太多容易使人误解为测量准确度很高,太少则会损失原有的测量准确度。因此,掌握结果部分和不确定度部分的数字位数及其数据修约的规则,也是确保测量数据的有效性。 3.1 结果部分位数与数据修约 3.1.1有效数字、有效位数 (1) 在检测与试验中直接从测量仪器中读得的读数或自动采集的数字是有效数字,意思是这些读数或采集是能保证准确度的,是有意义的。这是从测量误差来理解的有效数字的含义。 (2) 从数字化整误差来理解有效数字含义,是将化整以后的数字称为有效数字。若某近似数字的误差绝对值不超过该数末位的半个单位值时,则从其第一个不是零的数字起至最未一位的所有数字,都是有效数字。 例如,1/3的小数值为0.333…,若取0.33,则其末位的半个单位值为0.005;而误差的绝对值为 0.333—0.33=0.003,不超过0.0005。于是,0.33的有效数字为二位。 (3) 两个数相加或相减所得结果,小数点后有效数字位,与参与运算的各数中小数点后的有效位数最少的一个相同。 例如1.5x108十1.21=1.5x108。 (4) 乘法和除法所得结果的有效数字的位数,与参与计算的数字中有效位数最少的数字有效位数相同。例如,1.5m×2m=3m2。 (5) 乘方、开方运算所得结果的有效数字的位数与原数字的有效位数相同。 例如, (16m)2=2.6m2,而不是2.56m2。 3.1.2 数字修约规则 (1) 基本原则:“四舍六入,逢五为偶。 (2) 舍弃的数字段中,前位数字大于5,则保留的数字段末位进1。如2.14159,保留四位有效数字为2.142。 (3) 舍弃的数字段中,首位数字小于5,则保留的数字段末位不进1。如4.71729,保留四位有效数字为4.717。 (4) 舍弃的数字段中,首位数字等于5,且5右面的其它舍弃位不全为0,则保留的数字段末位进1。如4.266501,保留四位有效数字为4.267。 (5)舍弃的数字段中,首位数字等于5,且5右面的其它舍弃位全为0,则将保留的数字段末位变成偶数。如3.26650,保留四位有效数字为3.266,不进位;1.27750,保留四位有效数字为4.278,进一位,变偶。 3.2不确定部分数字位数与数据修约 3.2.1数字位数 由于不确定度部分的数字本身是测不准的数字,保留过多的位数是没有价值的。故一般取1至2位有效数字,多于部分应截断或进位。当第一位数字较小时(如小于5),给出两位有效数字为宜;当第一位数字较大时(如大于5),可给出一位有效数字。 3.2.2数字修约 (1) 当测量不确定度保留2位有效数字时,后面的数字不为0即进位。如U=0.2001,修约后为U=0.21 (2)当测量不确定度保留1位有效数字时,后面的数字按三分之一原则修约,即大于基本单位的1/3即进位,否则不进位。 如0.6332一0.6,舍入误差:-0.0332/0. 6332=-5.2% 0.6332—7,舍入误差:0.0668/0.6332=10.5%

文档评论(0)

caiyl9924 + 关注
实名认证
内容提供者

该用户很懒,什么也没介绍

1亿VIP精品文档

相关文档