第一章误差2015讲述.ppt

第一章误差2015讲述

计算机中数的计算特点: 1. 加法先对阶,后运算,再舍入 2. 乘法先运算,再舍入 3. 不在计算机数系中的数做四舍五入处理 例如:在四位浮点十进制数的计算机上计算1+ 104 解: 1+ 104 =0.1000 ?101+ 0.1000 ?105 = 0.00001 ?105 + 0.1000 ?105 (对阶计算) = 0.10001 ?105 = 0.1000 ?105 = 104 2. 误差、误差限、有效数字 误差: 准确值(精确数或真值) 近似数 则此近似数 和 准确值的差称为误差, 用 来表示: 把误差的负数 叫做近似值 的“修正值”。 误差可正可负,当误差为正时,近似值偏大,叫做“强近似”,当误差为负时,近似值偏小,叫做“弱近似”。 由于精确值一般是未知的,因而 不能求出来, 但可以根据测量误差或计算情况设法估计出它的取值范围,即误差绝对值的一个上界或称误差限。 定义 如果 称 为近似值 的“误差限”。 2. 误差、误差限、有效

您可能关注的文档

文档评论(0)

1亿VIP精品文档

相关文档