电子测量的基本概念.pptVIP

  • 7
  • 0
  • 约6.29千字
  • 约 10页
  • 2025-02-26 发布于四川
  • 举报

2.有效数字若截取得到的近似数其截取或舍入误差的绝对值不超过近似数末位的半个单位,则该近似数从左边第一个非零数字到最末一位数为止的全部数字,称之为有效数字。例如:3.142 四位有效数字,极限误差≤0.00058.700 四位有效数字,极限误差≤0.00058.7×103 二位有效数字,极限误差≤0.05×1030.0807 三位有效数字,极限误差≤0.005中间的0和末尾的0都是有效数字,不能随意添加。开头的零不是有效数字。测量数据的绝对值比较大(或比较小),而有效数字又比较少的测量数据,应采用科学计数法,即a×10n,a的位数由有效数字的位数所决定。测量结果(或读数)的有效位数应由该测量的不确定度来确定,即测量结果的最末一位应与不确定度的位数对齐。例如,某物理量的测量结果的值为63.44,且该量的测量不确定度u=0.4,测量结果表示为63.4±0.4。0103023.近似运算法则 保留的位数原则上取决于各数中准确度最差的那一项。(1)加法运算 以小数点后位数最少的为准(各项无小数点则以有效位数最少者为准),其余各数可多取一位。例如: ?? (2)减法运算:当两数相差甚远时,原则同加法运算;当两数很接近时,有可能造成很大的相对误差,因此,第一要尽量避免导致相近两数相减的测量方法,第二在运算中多一些有效数字。

文档评论(0)

1亿VIP精品文档

相关文档