计量基础知识59528.pptVIP

  • 11
  • 0
  • 约7.66千字
  • 约 56页
  • 2020-02-26 发布于广东
  • 举报
六.数据处理 1.有效数字 测量结果以数字形式出现,有效数字与测量误差相关。 定义——一个数的允许误差不大于其保留末位数字的0.5单位,则该数字的左边第一个非零数字起至右边末位数字都是有效数字。 0.001018 5位有效数字 1000 4位有效数字 1.0×103 2位有效数字 31785PA取2位有效数字——32KPA 3.2×104PA 0.032MPA 一般应使数值处于0.1~1000范围内 2.有效数字的运算 ⑴常数运算 :取有效位数取决于运算的需要决定 ⑵加减运算:根据参加运算数字共有小数位决定 加减运算结果只保留各数共有的小数位数 位数多的先进行舍入处理,取比共有小数位多一位参加运算。 结果修约至共有小数位 28.5+3.74+0.135——28.5+3.74+0.14——32.38——32.4 ⑶乘除运算 根据参加运算数字共有的有效位决定 将有效位数较多的先进行舍入处理,修约到比最少有效位数多一位,然后进行计算,计算结果再修约至各参与计算数字最少有效位数。 例:0.15×111×100.7——0.15×111×101=1681.65——1.7×103 3.数据修约规则 (1)修约间隔 指定位数的 0.1 0.2 0.5 间隔 63.37 修约间隔0.1单位——63.4 1075.2 修约到十位数的0.2单位—— 1076 1075.2修约到百位数的0.2单位—— 1080——1.08×103 63.37修约到个位的0.5单位——63.5 63.37修约到十位的0.5单位——65 (2)修约规则 ①常规修约 (1单位的修约) A. 当拟舍去的尾数大于保留末位数的半个单位时,保留末位数加一个单位。 3.086——3.09 B.当拟舍去的尾数小于保留末位数的半个单位时,尾数舍去。 4.164——4.16 当拟舍去的尾数恰好等于保留末位数的半个单位时,如拟保留的末位数是奇数则进位;如偶数时则不进位。 (偶数法则) 3.175——3.18 3.285——3.28 C.拟舍去的尾数超过2位数时不得连续多次修约,只能一次修约。 修约至2位有效数 3.14546——3.1 ≠3.1455—3.146—3.15—3.2 ② 0.2单位的修约 A.当保留末位为偶数时,将保留末位数右边的数舍去。 37.43——37.4 B.当保留末位为奇数而右边有数值时,将保留末位进位为偶数。 37.74——37.8 1037.01——1038 C.当保留末为奇数而右边没有数值时,将该数除以2,然后按偶数法则修约后乘2。 46.70÷2——23.35——23.4×2——46.8 ③0.5单位的修约 A.拟舍去的尾数≤0.25个单位时,尾数舍去。 修约间隔为0.5 42.14——42.0 40.25——40.0 B.拟舍去的尾数>0.25单位, <0.75单位时保留末位为0.5单位。 42.6——45 47.3——45 C.拟舍去的尾数≥0.75个单位时,则保留末位进位,保留末位人仍为零。 修约间隔为5 37.5——40 39.5——40 也可将数值乘2,按常规修约修约后再除2 37.5×2=75.0——80÷2=40 60.25×2=120.50——120.0÷2=60.0 ④负数的修约 先将修约的数值取绝对值,再按上述方法修约,然后加负号。 谢 谢 5.十大计量领域 1.几何量(长度) 2.力学 3.热工 4.电磁 5.无线电 6.时间、频率 7.声学 8.光学 9.化学 10.电离辐射计量 6.计量的特点 1.准确性 2.一致性 3.朔源性 4.法制性 二.名词解释 1.计量——量值准确一致的测量 2.测量——为确定量值而进行的一组操作 3.测试——具有探索性的测量 4.量的真值——在观察条件下严格定义的量值   量的真值是一个理想的概念 5.约定真值——约定的量值 6.计量标准——用于定义、实现、保持或复现计量单位的一个或多个已知量值的实物量具,测量仪器或测量系统。 7.计量检定——国家法定计量部门(或法定授权组织)为确定或证实计量器具技术性能是否合格所进行的全部工作    检定证书——证明计量器具检定合格的文件    检定结果通知书——证明计量器具检定不合格的文件

文档评论(0)

1亿VIP精品文档

相关文档