浮点数.pptVIP

  • 27
  • 0
  • 约5.27千字
  • 约 42页
  • 2017-02-09 发布于天津
  • 举报
浮点数

计算机科学引论 浮点数表示与运算 为什么讲浮点数 浮点数是程序中常用的数 浮点数是计算机技术中设计非常精巧的一个例子 浮点数的一些设计思想被应用到计算机科学的其它领域 数的表示 计算机是处理“数”的 数必须表示成计算机认识的格式 N位整数的表示 无符号:原码 0~(2N-1) 有符号:补码 (-2N-1)~( 2N-1-1) 数的表示 其它的数怎么办? 特别大的数:一个世纪的秒数 3,155,760,00010 (3.1557610 x 109) 非常小的数:原子的直径 0.0000000110 (1.010 x 10-8) 分数 2/3 (0.666666666. . .) 无理数 21/2(1.414213562373. . .),e(2.718...),?(3.141...) 都是科学技术上常用的数 数的表示 科学技术上数的表示 科学记数法 数的表示 科学记数法 有一个定长尾数 小数 有一个固定的基 10:尾数的进制 有一个阶 有符号整数 有一个符号 数的表示 科学记数法 规一化要求: 1?尾数10 规一化的: 1.0 x 10-9 未规一化的: 0.1 x 10-8,10.0 x 10-10 规一化 数的表示 科学记数法 归一化科学记数法特点 尾数长度决定了数的运算可用精度 简称精度 阶增减1相当于尾数小数点右移/左移一位 归一化算法简单 比较大小的算法 先比

文档评论(0)

1亿VIP精品文档

相关文档