工程数学01-绪论及几个关键问题.pptVIP

例6: 以下近似数是经四舍五入得到的 x1=0.12, x2=0.120, x3=1.73, x4=0.00073, x5=73000 x6=0.73*103 问它们分别有几位有效数字? 解： x1=0.12有2位有效数字, x2=0.120, 有3位有效数字。 x3=1.73有3位有效数字, x4=0.00073有2位有效数字。 x5=73000有5位有效数字， x6=0.73*103有2位有效数字。 例7：设计算机数系为F(10,t,L,U),将实数 x=±0.a1a2…atat+1…×10c,(a1≠0),用四舍五入法表为机 器数fl(x);求其有效数字、绝对误差限、相对误差限。 解： 相对误差为 绝对误差为： 机器数的相对误差与x无关，只与字长t有关。 定义 eps=0.5×10-t+1为机器精度。 fl(x)有t位有效数字。 注： （1）在数值计算中，尽可能多地保留近似数 的有效数字，有效数字越多， 相对误差越小， 计算结果越精确。 （2）对IEEE国际通用标准双精度数系 机器精度 Eps=2.2204e-16 最小实数 Realmin=2.2251e-308 最大实数 Realmin=1.7977e+308 (1) 加减法先对阶,后运算,再舍入 fl(x) ±