第3章 误差和MATLAB的计算精度.pptVIP

  • 12
  • 0
  • 约1.14千字
  • 约 9页
  • 2016-12-30 发布于江苏
  • 举报
内蒙古大学自动化系 数值计算与MATLAB 第3章 误差和MATLAB的计算精度 3.1 误差 3.1.1 误差的来源 模型误差 观测误差 截断误差(方法误差) 舍入误差 3.1.2 有关误差的一些概念 1. 绝对误差和绝对误差限 ae(x)=x*- x |ae(x)|=|x*-x|≤s 2. 相对误差和相对误差限 3、有效数字: 如果近似值x的误差限s是某一位数上的半个单位,从该位数到x的左数第一位非零数共有n位,则称x有“n位有效数字”。 4、绝对误差、相对误差和有效数字的关系 3.2 MATLAB中的数值计算精度 3.2.1 浮点数及其运算特点 允许小数点浮动的表示数字方法,称为浮点表示法,这样的数称为浮点数。浮点数的一般表示形式为: x=±(0.d1d2d3…dt) =±(d1 + d2 +…+ ) 1) 为浮点数的基底,根据数的进制取值; 2)P为浮点表示的阶码; 3) 0.d1d2d3…dt称浮点数的尾数; 4)t是用正整数表示的计算机字长。 计算机中进行阶码不同的两个数相加减时,先将阶码统一为较大者,然后将尾数相加减。如设x=0.3127×10-6,y=0.4153×10-4,则 x+y≈0.0031×10 -4+0.4153×10 -4

文档评论(0)

1亿VIP精品文档

相关文档