技能培训中心 有效数字的保留及修约 幻灯片 - 72有效数字的保留及修约.pptxVIP

  • 64
  • 0
  • 约1.24千字
  • 约 9页
  • 2020-12-13 发布于北京
  • 举报

技能培训中心 有效数字的保留及修约 幻灯片 - 72有效数字的保留及修约.pptx

有效数字的保留及修约 主讲:袁超 2 概念 有效数字的位数可反映试验的精度或表示所用试验仪表的精度, 我们把通过直读获得的准确数字叫做可靠数字;把通过估读得到的那部分数字叫做存疑数字。 有效数字的保留及修约 3 3.12mm 1.2865g 1.23ml 可靠数字 存疑数字 有效数字的读取 有效数字的保留及修约 4 有效数字是指在一个数中,从该数的第一个非零数字起,直到末尾数字止的数字称为有效数字,数据中小数点的位置不影响有效数字的位数。 例如: 数字 有效位数 1.23 3位 0.0123 3位 12.03 4位 12.30 4位 数字0是否是有效数字,取决于它在数据中的位置。 一般第一个非0数字前的数字都不是有效数字; 而第一个非0数后的数字都是有效数字。 有效数字的运算 有效数字的保留及修约 加、减运算 乘、除运算 乘方、开方运算 11.96 10.2 + 0.003 ————— 22.163 小数点后有2位 小数点后有1位 小数点后有3位 修约后 小数点后有1位 22.2 12.6 9.81 × 0.050 ———— 6.1803 有效数字3位 有效数字3位 有效数字2位 修约后 有效数字2位 6.2   有效数字2位 有效数字3位 概念 有效数字的保留及修约 6 ln6.84=1.

您可能关注的文档

文档评论(0)

1亿VIP精品文档

相关文档