- 1、原创力文档(book118)网站文档一经付费(服务费),不意味着购买了该文档的版权,仅供个人/单位学习、研究之用,不得用于商业用途,未经授权,严禁复制、发行、汇编、翻译或者网络传播等,侵权必究。。
- 2、本站所有内容均由合作方或网友上传,本站不对文档的完整性、权威性及其观点立场正确性做任何保证或承诺!文档内容仅供研究参考,付费前请自行鉴别。如您付费,意味着您自己接受本站规则且自行承担风险,本站不退款、不进行额外附加服务;查看《如何避免下载的几个坑》。如果您已付费下载过本站文档,您可以点击 这里二次下载。
- 3、如文档侵犯商业秘密、侵犯著作权、侵犯人身权等,请点击“版权申诉”(推荐),也可以打举报电话:400-050-0827(电话支持时间:9:00-18:30)。
- 4、该文档为VIP文档,如果想要下载,成为VIP会员后,下载免费。
- 5、成为VIP后,下载本文档将扣除1次下载权益。下载后,不支持退款、换文档。如有疑问请联系我们。
- 6、成为VIP后,您将拥有八大权益,权益包括:VIP文档下载权益、阅读免打扰、文档格式转换、高级专利检索、专属身份标志、高级客服、多端互通、版权登记。
- 7、VIP文档为合作方或网友上传,每下载1次, 网站将根据用户上传文档的质量评分、类型等,对文档贡献者给予高额补贴、流量扶持。如果你也想贡献VIP文档。上传文档
查看更多
软件处理在计量检定中作用
软件处理在计量检定中作用【摘 要】本文介绍了使用计算机辅助软件在计量检定中的简单应用,重点介绍了使用EXCEL自编函数来实现满足测量误差及数据处理(GB/T8170-2008)中对于数字修约规定的方法。
【关键词】计算机辅助软件;计量检定;EXCEL
数字修约计量检定,需要做大量的试验,通过试验获取数据,再将数据进行整理、分析,做相应的概率统计,最后得出检定结果。随着我国经济的快速发展,各种计量检定项目大量增加,同时国家对于计量检定数据的准确性要求越来越高,能否快速准确地完成计量检定工作,数据处理成为制约环节。目前,计量检定数据的处理大都采用人工计算,不但耗时多,效率低,而且容易在数字处理过程中出现差错,出错后检验查错也不方便。本文介绍了一种利用多种计算机软件配合,快速准确处理数据,提高计量检定工作效率和准确度的方法。
EXCEL是我们日常工作中常用的电子表格软件,其界面简单明了,便于使用,并且有内置函数公式,可以根据计量检定数据处理的不同要求选用内置函数公式或进行自编公式完成相应的数据处理。现以数据处理较繁琐的定量包装商品净含量计量检验为例,介绍利用计算机软件进行计量检定数据处理的方法。
在计量检定数据的处理过程中,数据修约的正确与否非常重要。修约方法的不同可能造成计量检定结果的较大偏差。在用计算机软件处理时,如果将采集到的数据直接用EXCEL进行处理,由于Microsoft Excel的2进制编译法,使用的修约规则为简单的“四舍五入”法,容易产生较大偏差。在进行计量数据修约处理时,我们一般采用符合国家标准(GB/T8170-2008)的“偶舍奇入”法。EXCEL本身内置的数字修约公式为ROUND函数,ROUND的功能是返回圆整到指定小数位数的数值表达式的值,即从该位四舍五入,不能满足我们的修约要求,所以需要采用自编函数公式的方法来满足数据处理的实际要求。一般定量包装净含量数据处理中对于修约的要求多为保留两位有效数字,为实现此修约结果,在EXCEL电子表格中加设自编函数公式,见图1。
在C2处输入以下公式“ROUND(A2,2)-IF(AND(TRUNC(A2*200)=A2*200,TRUNC(A2*100/2)=TRUNC(A2*100)/2),0.01)”,即可满足要求。
该公式的设计思路如下:根据《数值修约规则与极限数值的表示和判定》(GB/T8170-2008)要求:“对要求进行修约的数据,如果拟舍弃数字最左一位等于5其右边的数字并非全部为零时,则进一;如果右边无数字或皆为0,则保留的末尾数字为奇数加l、偶数时舍去(偶舍奇入)”。分析上述要求后我们发现,影响数字修约不同于简单“四舍五入”的条件分别是:拟舍弃位为5时,①5右边数字是否全部为0;②偶舍奇入,并且只有当两个条件同时满足时,才会将拟舍弃的数字5舍去,此时得出结果比普通的四舍五入修约值小0.01。鉴于以上分析,可以首先利用ROUND函数对数据进行普通四舍五入修约“ROUND(A2,2)”,然后使用IF语句进行逻辑判断,IF语言的形式为IF(logica-ltest,value-i-ftrue,value-i-ffalse),我们设置逻辑条件“TRUNC(A2*200)=A2*200”用以判断条件①,当拟舍弃位为“5”并且右边数字皆为“0”时返回逻辑真值,反之返回逻辑假值,其中TRUNC函数为返回处理后的数值,其工作机制与ROUND函数极为类似,只是该函数不对指定小数前或后的部分做相应舍入选择处理,而统统截去。例如“0.12501”,“TRUNC(A2*200)=25”,“A2*200=25.002”,两者不等,返回逻辑假值;逻辑条件“TRUNC(A2*100/2)=TRUNC(A2*100)/2)”用以判断条件②,当拟舍弃位为“5”并且前一位显示是偶数是返回逻辑真值,反之为逻辑假值。根据之前分析,两个条件同时满足时才会出现将拟舍弃的数字“5”舍去造成0.01的差值。故使用AND函数,“AND(TRUNC(A2*200)=A2*200,TRUNC(A2*100/2)=TRUNC(A2*100)/2)”,当两条件同时成立时才返回逻辑真值,任一条件不满足都返回逻辑假值。返回真值后完成对普通四舍五入修约值减“0.01”的操作,运算结束。例如:对于“0.125”,判断条件①、②都满足,对使用ROUND修约过的“0.13”进行减“0.01”,得到“0.12”;对于“0.125”,如上例子条件①不满足,AND函数最终返回逻辑假,故不进行减“0.01”的操作,得到“0.13”经检验符合《数值修约规则与极限数值的表示和判定》(GB/T8170-2008)0时,有效位数加一;小于50时,舍弃,等于50时,对前一位拟保留数字偶舍奇入。
对更加复杂的数据
您可能关注的文档
最近下载
- DL_T 267-2023 油浸式全密封卷铁心配电变压器使用技术条件.pdf VIP
- 一种新型的化纤打包机.pdf VIP
- 山东黄金集团招聘考试题库.pdf
- 贵州省黔西南州2024-2025学年七年级下学期期末语文试题(含答案).pdf VIP
- 环形混凝土电杆标准.pdf VIP
- 专项施工方案.docx VIP
- NB∕T 47018.4-2022 承压设备用焊接材料订货技术条件 第4部分:埋弧焊钢焊丝和焊剂.pdf
- 山西博大集团寿阳京鲁煤业有限责任公司兼并重组整合矿井地质报告.doc
- 贵州省黔西南州2024-2025学年七年级下学期期末考试语文试题(含答案).docx VIP
- 烟气脱硫废水处理系统培训课件.pptx VIP
文档评论(0)