2020定点数的运算.pptVIP

  • 12
  • 0
  • 约2.51千字
  • 约 31页
  • 2020-12-03 发布于天津
  • 举报
定点数的运算 通信与信息工程学院 向超 定点数的表示 ? 有符号数都以 2 的补码表示 ? 最高位为符号位 . n 位 16-n 位 定点数的表示 以 16bit 为例,如果表示整数,大小顺序如下: 0x7FFF 32767 … … 0x0000 0 0xFFFF -1 … … 0x8000 -32768 定点数的表示 ? n-bit 有符号定点整数表示的数据范围: -2^(n-1)~ 2^(n-1)-1 ? n-bit 无符号定点整数表示的数据范围: 0~ 2^n-1 ? 能够表示 2^n 个数 ? 在有限位的情况下,数据范围有限 定点数的表示 ? 同样数值的数可以用不同 bit 的二进制数表 示 (6) 10 0110 0000 0110 (-5) 10 1011 1111 1011 ? 用更多位表示有符号数时, 左边填充符号 位 整数的算术运算 ? 加减运算 无符号数 2+9 0010 1001 + 1011 有符号数 2+(-7) 0010 1001 + 1011 ? 处理器不区分有符号数或者无符号数,计 算规则完全相同 整数的算术运算 ? 乘法运算 无符号数 2x9 0010 1

文档评论(0)

1亿VIP精品文档

相关文档