- 16
- 0
- 约4.05千字
- 约 39页
- 2016-08-17 发布于重庆
- 举报
1-误差的基本概念
(2)避免两相近数相减 由两近似值差 的相对误差关系式 可以看出: 可能比 大得多。 当 与 相近,即 时, 就可能很大,从而导致计算结果的有效数字位数的减少。 例如:相近两数相减 准确值为0.00000003392191…,准确值的计算过程 用具有舍入功能的八位计算器计算(1)式 近似值很不可靠。 该算法稳定性好,得到一个精度很高的近似值。 (1) (2) (2)式 (1)式计算结果的有效数字位数是1位,绝对误差的精度是 (2)式计算结果的有效数字位数是8位,绝对 误差的精度是 。 算法(2)稳定性好,得到一个精度很高的近似值。 (3)避免用绝对值很大的数作乘数、绝对值很小的数作除数 可知,当乘数 或 的绝对值很大时, 可能很大 又由 可知,当 接近于0时, 也可能很大。 由二元函数的误差传播规律式 由于计算机的字长有限,又要作对阶处理,在数值运算中,如果数据的数量级相差很大,如不注意运算次序,就可能出现大数“吃掉”小数的现象。 (4) 防止大数“吃掉”小数 例如:大数“吃掉”小数 有两个互异实根 如果用求根公式 一元二次方程 在尾数为八位的浮点计算机上
您可能关注的文档
最近下载
- 04J012-3 环境景观-亭、廊、架之一.pdf VIP
- FSC产销监管链认证全套管理手册及程序文件(可编辑!).docx VIP
- 四川省成都七中2024-2025学年高一期中考 数学试题【含答案】.pdf VIP
- 初中化学跨学科教学实践活动设计与实施研究.docx VIP
- 2026年湖北黄冈市高三二模高考化学试卷试题(含答案详解).pdf VIP
- 2012-2021年18家银行绿色信贷数据.xlsx VIP
- HSK三级阅读练习.docx VIP
- 西门子自动化产品培训.ppt VIP
- 控告申诉业务测试题含答案.docx VIP
- 2026三年级下册道德与法治 第3课《一切靠劳动》(第二课时)教案教学设计.pdf
原创力文档

文档评论(0)