1.3计算机中的浮点数表示详解.pptVIP

1.3 计算机中数的浮点表示 本节主要内容 以 为基的数系 数的浮点表示 舍入误差 1.3.1 以 为基的数系 利用数值方法解决科学计算实际问题时都需要设计程序并在计算机上运行才能求出数值结果，因此了解数在计算机中的表示是有必要的. 在计算机中广泛采用的有二进制数、八进制数、十进制数和十六进制数，它们的基数分别为2，8，10和16. 例 如 1.3.2 数的浮点表示 我们称 a为数x 的尾数（其值小于1）. 自然数 t为计算机的字长，它表示数x的尾数的位数. J是整数，称为数x 的阶，它用来确定x 的小数点的位置. 在各种计算机中，有各自规定的字长，以及阶J 的范围：-L ≤ J ≤ U（ L和U 为正整数或零）. L、U 的大小表明计算机中表示的数的范围大小. 式 1.2.1 或 1.2.2 称为数的浮点表示. 再假设 x ≠ 0 时 d ≠ 0，则称 x为规格化浮点数. 按式 1.2.1 或 1.2.2 规定的规格化浮点数的全体组成的集合记为F . 我们称 F为一个规格化浮点数系. 规格化浮点数系F 是一个有限的离散的数集合. 在数值计算中通常取十进制数. 规格化浮点数 1.3.3 舍入误差 在使用计算机进行数值计算时，若提供给计算机的数x 的绝对值大于 F 中最大正数，则在计算机上出现 上溢；若 x ≠0 的绝对值小于 F 中最小正数，则在计算机