夹砂管产品生产许可证检验员上岗证培训数据处理.pptVIP

  • 1
  • 0
  • 约3.81千字
  • 约 41页
  • 2020-05-11 发布于天津
  • 举报

夹砂管产品生产许可证检验员上岗证培训数据处理.ppt

第三节 近似数运算 ( 续 ) ? 三、修约注意事项 ? 1. 不得连续修约 :拟修约的数字在确 定修约位数后一次修约获得结果,不 得多次连续修约。 基于 GB8170-1987 数值修约规则 ? 基本概念 ? 数值修约规则 ? 近似数运算 ? 极限数值的判定方法与修约 第一节 基本概念 ? 正确数 : 不带测量误差的数均为正确 数。 ? 近似数 : 接近但不等于某一数的数。 ? 有效数字 : 若测量结果经修约后的数 值,其修约误差绝对值≤0.5(末位), 则该数值称为有效数字,即从左起第 一个非零的数字到最末一位数字止的 所有数字都是有效数字。 第一节 基本概念 ? 有效位数 : – 对没有小数位且以若干个 0 结尾的数值, 从非 0 数字最左一位向右数得到的位数减 去无效 0 (即仅为定位用的 0 ); – 对其他十进位数,从非 0 数字最左一位向 右数而得到的位数,就是有效位数。 第一节 基本概念 例 1 : 35000 ,若有两个无效 0 ,则为三位有 效位数,应写为 350 × 10 2 ;若有三个无效 0 , 则为二位有效位数,应写为 35 × 10 3 。 例 2 : 0.0025---2 位有效位数; 1.001000---7 位有效位数; 2.8 × 10 7 ---2 位有效位数; ? (对于 a × 10 n 表示的数值,其有效数字的 位数由

文档评论(0)

1亿VIP精品文档

相关文档