第3节-2 有效数字及其与误差的关系.pptVIP

  • 6
  • 0
  • 约小于1千字
  • 约 10页
  • 2017-08-24 发布于浙江
  • 举报
第3节-2 有效数字及其与误差的关系.ppt

注意: 计算机对任何实数的舍入相对误差与实数本身无关,只与计算机字长t有关,通常定义数eps=0.5×β1-t为计算机精度。 由于计算机的精度只与字长有关,计算机字长t越大,其精度越高,有些数值要用双字长处理,双字长数据也称双精度数。 * * §3 有效数字及其与误差的关系 一、有效数字 例如:对无穷小数或着循环小数,可用四舍五入的办法来取其 近似值 若按四舍五入取四位小数,则可得其近似值3.1416 若取五位小数则得到其近似值为3.14159 这种近似值取法的特点是误差限为其末位的半个单位。 定义:当近似值x*的误差限是其某一位上的半个单位 时,我们就称其“准确”到这一位,且从该位起直到前 面第一位非零数字为止的所有数字都称为有效数字。 五位有效数字,精确到0.0001 203和0.0203都是具有三位有效数字的有效数. 0.0203和0.020300: 其中0.0203具有三位有效数字,精确到0.0001, 0.020300具有五位有效数字,精确到0.000001. 可见,两者的精确程度大不相同,后者比前者精确.注:有效数字尾部的零不可随意省去,以免损失精度. 二、有效数字与误差的关系 上式表达了有效数字与相对误差之间的关系,由此 可见,有效数字的位数反映了近似值的相对精确度。 三.计算机舍入误差

文档评论(0)

1亿VIP精品文档

相关文档