怎样避免计算误差.pptxVIP

  • 10
  • 0
  • 约1.48千字
  • 约 19页
  • 2019-07-03 发布于福建
  • 举报
怎样避免计算误差

数值分析方法;Fortran C++ Matlab;误差的来源和有关误差的基本概念 ;误差和相对误差( 定义1.1) 设x*是某量的准确值,x是x*的近似值 称?x = x*-x 为x的误差或绝对误差。 | x*-x |??, 称?为x的(绝对)误差限或精度, ?rx = (x*-x)/x*称为x的相对误差 |(x*- x)/ x *|?? r, 称? r为x的相对误差限。 当? r 很小时,? r?? /| x |。 ;计算规则 1. 加减法   以小数点后位数最少的数据为基准,其他数据比它多保留一位,再进行加减计算,最终计算结果保留最少的位数。   例:计算50.1+1.45+0.5812=?   修约为:50.1+1.45+0.58=52.13=52.1; 2. 乘除法   以有效数字最少的数据为基准,其他数据多保留一位有效数字,再进行乘除运算,计算结果仍保留最少的有效数字。   例:计算0.0121×25.64×1.05728=?   修约为:0.0121×25.64×1.057=?   计算后结果为:0.327927908,结果仍保留为三位有效数字。   记录为:0.0121×25.64×1.056=0.328   例:计算2.5046×2.005×1.52=?   修约为:2.505×2.005×1.52=?   当把1.13532×10⒑保留3

文档评论(0)

1亿VIP精品文档

相关文档