有效数字与测数据的预处理.pptVIP

  • 6
  • 0
  • 约小于1千字
  • 约 7页
  • 2018-10-17 发布于江苏
  • 举报
有效数字与测数据的预处理

有效数字与测量数据的预处理 有效数字 有效数字的运算 测量数据的预处理 有效数字 有效数字:准确数字 + 可疑数字 (1)有效数字仅含一位可疑数字,且与测量结果的不确定度对齐。 (2)有效数字的位数与小数点的位置、单位无关。 用国际单位制、科学记数法书写时将有效数字的首位作为个位,其余作小数位。 指数不计入有效数字的位数。 e =1.602?10-19 C——四位有效数字 (3)“0”在有效数字中的特殊地位,如 (4)常数(如4、π、e等)是准确的。 1206cm 2.0000mm 0.000125cm 0.001106mm 四位 五位 三位 四位 有效数字的运算 四则运算:准确数字与准确数字的运算,结果是准确数字;准确数字与可疑数字的运算,结果是可疑数字。 例 准确数字 + 准确数字 = 准确数字 准确数字 + 可疑数字 = 可疑数字 可疑数字 + 可疑数字 = 可疑数字 进位、借位视作准确数字。通常 (1)加减法:结果的可疑位与参加运算的有效数字的可疑位靠前的位置一致; (2)乘除法:结果的有效数字位数与参加运算的有效数字中位数最少的相同; (3)乘方、开方:结果的有效数字位数与底数的有效数字位数相同; (4)指数、对数、三角函数:结果的有效数字位数按照不确定度的传递公式确定。 有效数字尾数(可疑数字)的舍入规则: 可疑数字的后一位不等于5时,4舍5入,例 32.

文档评论(0)

1亿VIP精品文档

相关文档