误差理论和实验数据处理讲义.pptVIP

  • 21
  • 0
  • 约5.48千字
  • 约 52页
  • 2017-10-04 发布于江苏
  • 举报
3.有效数字的运算规则: ﹙1﹚.加减运算: 最后结果的小数点位数和加数中小数位数最少的对齐。 ﹙2﹚.乘除运算: 最后结果的有效位数和乘(除)数中有效位数最少的相同。 ﹙3﹚.乘方、开方运算: 最后结果的有效位数和底数的有效位数相同。 ﹙4﹚.对数运算: 对数的有效位数和真数相同。 ﹙5﹚.常数运算: 运算中它们的有效位数是任意的。 ﹙6﹚.三角函数运运算: 三角函数的可疑数和角度的最小单位对应的那一位对齐。 例如 1. 1.389+17.2+8.67+94.12=121.4。 1.389 17.2 8.67 + 94.12 12.385 121.379 × 2.2 2. 12.385×2.2=27。 24770 + 24

文档评论(0)

1亿VIP精品文档

相关文档