金融计算和编程.PDFVIP

金融计算与编程 上海财经大学金融学院 曹志广 金融计算中的误差与误差传播 1．认识计算机如何存储数字 （1）计算机以二进制方式存储数字 数据在计算机中是以 2 进制方式，用 1 或 0 按顺序排列表示的。一个 1 或 0 就表 示 1 位。 在十进制表示中，312.456 可以写成： 2 1 0 -1 -2 -3 312.456=3×10 + 1×10 + 2×10 + 4×10 + 5×10 + 6×10 在二进制表示中，数字(1001.11101)2 （以下标2 表示二进制）可以写成： 3 2 1 0 −1 −2 −3 −4 −5 (1001.11101)2 = 1× 2 + 0× 2 + 0× 2 + 1× 2 + 1× 2 + 1× 2 + 1× 2 + 0× 2 + 1× 2 一般地，r 进制 （r 为大于 1 的正整数）表示中，位数有限的r 进制正数可以 写成以下形式的字