1-误差的基本概念.pptVIP

  • 16
  • 0
  • 约4.05千字
  • 约 39页
  • 2016-08-17 发布于重庆
  • 举报
1-误差的基本概念

(2)避免两相近数相减 由两近似值差 的相对误差关系式 可以看出: 可能比 大得多。 当 与 相近,即 时, 就可能很大,从而导致计算结果的有效数字位数的减少。 例如:相近两数相减 准确值为0.00000003392191…,准确值的计算过程 用具有舍入功能的八位计算器计算(1)式 近似值很不可靠。 该算法稳定性好,得到一个精度很高的近似值。 (1) (2) (2)式 (1)式计算结果的有效数字位数是1位,绝对误差的精度是 (2)式计算结果的有效数字位数是8位,绝对 误差的精度是 。 算法(2)稳定性好,得到一个精度很高的近似值。 (3)避免用绝对值很大的数作乘数、绝对值很小的数作除数 可知,当乘数 或 的绝对值很大时, 可能很大 又由 可知,当 接近于0时, 也可能很大。 由二元函数的误差传播规律式 由于计算机的字长有限,又要作对阶处理,在数值运算中,如果数据的数量级相差很大,如不注意运算次序,就可能出现大数“吃掉”小数的现象。 (4) 防止大数“吃掉”小数 例如:大数“吃掉”小数 有两个互异实根 如果用求根公式 一元二次方程 在尾数为八位的浮点计算机上

文档评论(0)

1亿VIP精品文档

相关文档