浅谈数据处理在计量检测中的重要性.pdfVIP

高 新 技 术 ChinaNewTechnologiesandProduc：ts 浅谈数据处理在计量检测中的重要性 郭 威 (哈尔滨市质量技术监督局五常计量检测中心，黑龙江 五常 150200) 摘 要 ：数据处理关系到各个行业，特别是对各级科研机构、各级计量检测机构尤为重要，目前，在计量检测工作中，就各种检测纪录、 检测报告等，在测量值、中间过程的数学运算、测量结果及测量不确定度评定方面，数字的有效位数代表着测量的准确程度，其测量 数据的位数应根据测量的精度确定，决不能把数据的有效数字位数增加到超过测量所能允许的误差范围；反之 ，表示一个数时书写 位数过少，低于测量所能达到的精度 ，同样是错误的。 关键词：计量；检测；数据处理 中图分类号：N39 文献标识码 ：A 在计量检测工作 中，数据处理原则上应 如 ：a、0 时，其测量结果的数字向测量极限误差看齐。 ． 1416X0．58 按检定规程 、校准规范、技术规范、技术标准 如 X的极限误差为0．45时，则 x=2038．4435 等规定执行，在规程 、规范或标准 中尚未规定 0．142×0．58— 0．08236—0．082 的值表达为x=2038．44。若测量中不知道计量 的情况下，除GB8170-1987((数据修约规则》 器具的测量极限误差，则按最小分度值估读 外，目前数据处理还没有统一的标准 ，现将 目 b、0．35÷4．026 一 位 。 前确定测量数据位数较为常用原则，总结性 8．2最终测量结果数字带极限误差± 的予以介绍，希望能对计量检测工作者有所 O．35÷4．O3— 0．0868— 0．087 AIim时，应将极限误差表示为 (1～2)位有效 帮助。 4乘方与开方的运算 数字 ，并以误差的末位为单位 ，将误差表示为 1数据修约首先应按GB8170—1987 数《 法则：有效数字的乘方与开方 的运算 ，计 (5-50)的范围中，使要写的结果向误差对齐。 据修约规则》，因为此规则比“四舍五人”更合 算结果的有效数字位数与原近似数的有效数 如测量极限误差为△。，m--0．5，则测量结果 x= 理，而舍和入不是等概率的，人(进)的概率大 字位数相同。 25．82的值表达为X=25．8±0．5；又如测量极限 于舍 (去)的概率 ，这样有可能给测量结果带 如 ：a、1．052=-1．1025=1．10 误差为△ ±0．0058，测量结果 X=60．1138的 来一定的舍人误差。 b、、／6-7：2．588：2．6 值表达为 x：60．114~0．006；若某测量极限误 2测量值有效数字位数的确定 5算术平均值的有效数字位数确定 差为△m±0．25时，则测量结果 X=50．2435的 测量中得到的测量值。其有效位数是有 计算各测量值的算术平均值，其有效数 值表达为 x=50．24~0．25，其测量结果的数字 限的。对于模拟式量仪 ，如分度值为0．01mm， 字位数应能保证残余误差有两位到三位数 向测量极限误差对齐。 在百分位上是直读数 ，在千分位上是估读数 ； 字；Vi=X一x(如v；=0．014或v=0．0135)，否则 ，可 9测量结果不确定度和有效 自由度有效 如分度值为 0．001mm，在千分位上是直读数 ， 能会影响测量结果的最后一位有效数字 的 数字位数的确定 在万分位上是估读数；而估读误差不会超过 值 。