数值修约与检测结果表达.pptVIP

加减运算 应以各数中有效数字末位数的数位最高者为准（小数即以小数部分位数最少者为准），其余数均比该数向右多保留一位有效数字。 例如：29.2+36.582-3.0281=? 按上述规测计算如下： 29.2+36.582-3.0281≈29.2+36.58-3.03=62.75 最后计算结果保留一位小数，为62.8。 乘除运算 应以各数中有效数字位数最少者为准，其余数均多取一位有效数字，所得积或商也多取一位有效数字。 例如：0.235438×28.6×61.8911 ≈0.2354×28.6×61.89 =414.6707116 三个参与运算的数值的有效数字位数分别为六位、三位、六位，所以最终计算结果用三位有效数字表示，为415或4.15×102。 乘方和开方 其结果可比原数多保留一位有效数字。 例如： 1.42＝1.96 　 1.233=1.861 。 对数和和反对数 在数值对数计算时，所取对数的小数点后的位数（不包括首数）应与真数的有效数字位数相同。换言之，对数有效数字的位数，只计小数点以后的数字的位数，而不计对数的整数部分。 例如：log（100.44） = log（1.0044×102） = 2.0019067…。 最后结果应为2.00191，结果的有效数字位数是五位（小数后位数）而不是六位（整数位数加小数位数），因整数部分只说明该数的10的方次。 平均值 计算几个数值的平均值时，先将计算结果修约至比要求的位数多一位，再按数值修约规则处理。 方差和标准偏差 方差和标准偏差在运算过程中对中间结果不做修约，只将最后结果修约至要求的位数。 注意 在所有计算式中，常数（π、e等）以及非检测所得的计算因子（倍数或分数，如、 等）的有效数字位数，可视为无限，需要几位就取几位。 五、检测结果的表达 皮革厚度 耐黄变 耐折 硬度 粘合强度 密度 国标耐磨 DIN耐磨 低温屈挠 项目 标准方法 结果表示 说明 皮革厚度 QB∕T 2709-2005 1.41 mm 取三次测量的平均值 耐黄变 HG∕T 3689-2001 4级 取3个样品中最差的一个 耐折 GB∕T 3903.1-2008 7.5 mm 折8万次裂纹总长度 硬度 GB∕T 3903.4-2008 63度 分为A型和C型 粘合强度 GB∕T 532-2008 3.8 N/mm 密度 GB∕T 533-2008 1.16 g/cm3 国标耐磨 GB∕T 3903.2-2008 5.2 mm 磨痕长度 DIN耐磨 GB∕T 9867-2008 81 mm3 相对体积磨耗量 低温屈挠 QB∕T 2224-96 8万次 * 正态分布曲线，图中的横坐标X是随机变量，纵坐标f(x)是概率密度函数; X上加一个横道的是平均值； μ是期望；X下脚有“0”的是真值。 以单次测量结果来说，这种分布大体有如下规律： ⑴ 所有测量结果都是以期望μ为中心对称分布的,且曲线与X轴不相交 ； ⑵ 测量结果落在期望 附近的概率较大；越远离期望，其出现的概率就越越小； ⑶单次测量结果出现在（μ±σ）的概率是68.3%左右；出现在（μ±2σ）的概率是95%左右；出现在（μ±3σ）的概率是 99.7%左右；超出这个范围的可能性几乎是不可能的，因此，称这种情况为小概率事件。 其中的期望μ就是在同一测量条件下对被测之量进行无限多次测量值的总平均值，所以，期望也称总体平均值。可是，无限多次测量是不可能实现的，因此，在误差理论中，都是用有限次测量得到的平均值 来估计期望的。 σ称为标准差，它是表示随机变量分散性的一个参量，它越小，说明随机变量的分布范围窄、分散性小。从上图的正态分布曲线来看，标准差相当于与正态分布曲线拐点相对应的横坐标上的一段取值。标准差越小，曲线越尖锐；越大，曲线越平坦。 * 测量结果大都是通过间接测量得到的，间接测量的结果通常是通过计算得出的，其组成数字往往较多， 但具体测量的精度是确定的，就是说表示合理表征测量结果的数字个数应是确定的，最终提供的测量结果应合理反映这一点，故此，通过对计算方法和直接测量得到的数据的分析，得到合理的保留位数，将多余的数字进行取舍以得到合理反映测量精度的测量结果，即进行数值修约就非常必要。另外，即使采用直接测量，有时在提供测量程序要求的但高于实际测量精度的测量结果时也需要进行合理的数值修约。