仪器校准后的数据处理.pptVIP

  1. 1、原创力文档(book118)网站文档一经付费(服务费),不意味着购买了该文档的版权,仅供个人/单位学习、研究之用,不得用于商业用途,未经授权,严禁复制、发行、汇编、翻译或者网络传播等,侵权必究。。
  2. 2、本站所有内容均由合作方或网友上传,本站不对文档的完整性、权威性及其观点立场正确性做任何保证或承诺!文档内容仅供研究参考,付费前请自行鉴别。如您付费,意味着您自己接受本站规则且自行承担风险,本站不退款、不进行额外附加服务;查看《如何避免下载的几个坑》。如果您已付费下载过本站文档,您可以点击 这里二次下载
  3. 3、如文档侵犯商业秘密、侵犯著作权、侵犯人身权等,请点击“版权申诉”(推荐),也可以打举报电话:400-050-0827(电话支持时间:9:00-18:30)。
  4. 4、该文档为VIP文档,如果想要下载,成为VIP会员后,下载免费。
  5. 5、成为VIP后,下载本文档将扣除1次下载权益。下载后,不支持退款、换文档。如有疑问请联系我们
  6. 6、成为VIP后,您将拥有八大权益,权益包括:VIP文档下载权益、阅读免打扰、文档格式转换、高级专利检索、专属身份标志、高级客服、多端互通、版权登记。
  7. 7、VIP文档为合作方或网友上传,每下载1次, 网站将根据用户上传文档的质量评分、类型等,对文档贡献者给予高额补贴、流量扶持。如果你也想贡献VIP文档。上传文档
查看更多
仪器校准后的数据处理

仪表校验后的数据处理; 数据的化整;       a、末位数是1的整数倍(即取0~9的任何数);    b、末位数是2的整数倍(即取0~8之间的任何偶数);    c、末位数是5的整数倍(即取0或5);    对于以标度尺长度表示的1.5级及以上的相位表和频率表,也应化整到被检表基本误差极限值的1/5左右。    对于以电角度绝对值表示的相位表,化整后的最小单位允许以分表示。 ; 表1;二、化整的方法   当标准表的读数或计算结果的位数不满足表1的要求时,要进行化整。化整方法如下:   a、末位数取1的整数倍时:若在拟舍弃的数字中,左边第一个数字小于5,则舍去;大于5(包括5的右边有数字时),则进一位,恰等于5时,若保留数字的末位数是偶数,则舍去;是奇数,则进一位。例如:49.949、49.951、49.950、49.850这几个数化成三位数字时,??分别是49.0、50.0、50.0、49.8。; b、末位数取2的整数倍时:当待化整的数的有效数字多于欲保留的数的有效数字时,应这样化整:若保留数字的末位数是偶数,则舍去右边的数;是奇数,则进一位。例如49.91、49.89、50.05、50.11这几个数化成三位数时,应该分别化为50.0、49.8、50.0、50.2。当化整后的有效数字不变时,应该化整:若末位数是偶数,维持不变;若末位数是1;化2;若末位数是3、5,则化为4;若末位数是7、9,则化为8。例如,119.0、119.1、119.3、119.5、119.7和119.9就应该分别化为119.0、119.2、119.4、119.8和119.8。;    c、当末位数取5的整数倍时:向最近0或5的数化整。  例如,100.74、100.76、100.50、100.05、100.2、100.7这几个数化成4位数时,就应化为100.5、101.0、100.5、100.0、100.0和100.5。对于2.5和7.5这样介于中间的数可这样化整:2.5舍去,7.5进一位。例如100.25化为4位数时,应该化为100.0,100.75化为4位数时,就应该化为101.0。; 检验结果的处理; 仪表标度尺工作部分长度的测量方法 ; 将以长度表示的误差换算为被测之量的方法; 谢谢

文档评论(0)

jgx3536 + 关注
实名认证
文档贡献者

该用户很懒,什么也没介绍

版权声明书
用户编号:6111134150000003

1亿VIP精品文档

相关文档