基于VB测量数据有效数字取位程序开发.docVIP

基于VB测量数据有效数字取位程序开发 　　摘要： 测量数据的有效数字取位时存在舍入问题，合理的舍入法则会减小误差，同时本文根据测量数据量大的特点开发了批量处理的程序。 　　Abstract： Effective digital position of measurement data has rounding problems. Reasonable rounding rules will reduce the error. This paper develops batch processing program of measurement data according to the characteristics of the large amount of measured data. 　　关键词： VB开发；有效数字取位；测量数据 　　Key words： VB development；effective digital position；measurement data 　　中图分类号：TP311.1 文献标识码：A 文章编号：1006-4311（2013）24-0174-02 　　0 引言 　　实际测量工作中经常遇到测量与计算结果数据有效数字的取位问题，取位时会引入误差，若舍入得当则此误差就会变小。 　　同时由于测量数据量的较大，若单数据进行手工取位则是一项较为繁琐且易出错的过程，因此本文针对此问题进行了程序的开发可以对测量数据进行批量的处理。 　　1 数据舍入法则 　　1.1 “四舍五入”法则 　　“四舍五入”法则规定，有效数字右一位为4或者小于4时则舍去，有效数字右一位为5或者大于5时则进1。 　　如数字3.145，若要求保留两位有效数字，由于有效数字右一位为4则取位后为3.1；若要求保留三位有效数字，由于有效数字右一位为5，则取位后为3.15。 　　但是由于测量数据的特殊性，在其取位时一般不采用此法则而是采用“四舍六入尾留双”法则。 　　1.2 “四舍六入尾留双”法则 　　此法则为国家科技部推荐使用的，其要点有： 　　a、有效数字右一位为4或者小于4时则舍去，如数字5.532，若保留两位有效数字，取位后为5.5； 　　b、有效数字右一位为6或者大于6时则进1，如数字7.378，若保留三位有效数字，取位后为7.38； 　　c、有效数字右第一位为5，后面的数字不全为0时则进1，如数字7.452，若保留两位有效数字，取位后为7.5； 　　d、有效数字右第一位为5，后面的数字全为0时，则有效位最后一位为奇数时则进1，若有效位最后一位为偶数时（包括0）则舍去，如数字8.35，若保留两位有效数字，取位后为8.4；数字8.25，若保留两位有效数字，取位后为8.2。 　　2 VB程序设计 　　2.1 单数据有效数字取位程序 　　首先，进行转换前数据的输入； 　　第二，选择需要保留的有效数字位数； 　　最后，输出转换后的数据。 　　Private Sub Command1_Click（） 　　Dim bedata As Double ‘定义转换前数据 　　Dim afdata As Double ‘定义转换后数据 　　Dim sigdata As integer ‘有效数字位数 　　Select Case sigdata ‘选择有效数字位数 　　Case 0 　　‘保留整数位 　　Afdata=* 　　Case 1 　　‘保留2位有效数字 　　Afdata=*.* 　　Case 2 　　‘保留3位有效数字 　　Afdata=*.** 　　………………… 　　End select 　　2.2 文件批量处理有效数字取位程序 　　首先，定义待处理文件格式及数据组织格式；文件格式为文本文件（*.dat、*.txt），数据组织格式为：ID，data1，data2，data3；第二，打开文件读取数据，对数据进行取位处理；第三，保存取位后的数据。 　　Private Sub Command3_Click（） 　　………………… 　　CommonDialog1.Filter = Text （*.txt；*.dat）|*.txt；*.dat ‘文本格式 　　………………… 　　Open ff11 For Input As #1 ‘打开文件 　　Do While Not EOF（1） 　　Line Input #1， str1 　　‘数据提取 　　data = Split（str1， ，）：dh（j， 0） = data（0） ：xx（j， 0） = data（1） 　　‘选择有效数字位数 　　Select Case sigdata