float精度丢失问题.docVIP

  1. 1、原创力文档(book118)网站文档一经付费(服务费),不意味着购买了该文档的版权,仅供个人/单位学习、研究之用,不得用于商业用途,未经授权,严禁复制、发行、汇编、翻译或者网络传播等,侵权必究。。
  2. 2、本站所有内容均由合作方或网友上传,本站不对文档的完整性、权威性及其观点立场正确性做任何保证或承诺!文档内容仅供研究参考,付费前请自行鉴别。如您付费,意味着您自己接受本站规则且自行承担风险,本站不退款、不进行额外附加服务;查看《如何避免下载的几个坑》。如果您已付费下载过本站文档,您可以点击 这里二次下载
  3. 3、如文档侵犯商业秘密、侵犯著作权、侵犯人身权等,请点击“版权申诉”(推荐),也可以打举报电话:400-050-0827(电话支持时间:9:00-18:30)。
  4. 4、该文档为VIP文档,如果想要下载,成为VIP会员后,下载免费。
  5. 5、成为VIP后,下载本文档将扣除1次下载权益。下载后,不支持退款、换文档。如有疑问请联系我们
  6. 6、成为VIP后,您将拥有八大权益,权益包括:VIP文档下载权益、阅读免打扰、文档格式转换、高级专利检索、专属身份标志、高级客服、多端互通、版权登记。
  7. 7、VIP文档为合作方或网友上传,每下载1次, 网站将根据用户上传文档的质量评分、类型等,对文档贡献者给予高额补贴、流量扶持。如果你也想贡献VIP文档。上传文档
查看更多
float 精度丢失问题 问题提出: 12.0f-11.9f=0,减不尽 为什么? 现在我们就详细剖析一下浮点型运算为什么会造成精度丢失? 1、小数的二进制表示问题 首先我们要搞清楚下面两个问题: 十进制整数如何转化为二进制数 算法很简单。举个例子, 11 表示成二进制数: 11/2=5余 1 5/2=2 余 1 2/2=1 余 0 1/2=0 余 1 0 结束 11 二进制表 示为 (从下往上  ):1011 这里提一点:只要遇到除以后的结果为  0 了就结 束了,大家想一想,所有的整数除以  2 是不是一定能够最终 得到 0。换句话说,所有的整数转变为二进制数的算法会不 会无限循环下去呢?绝对不会,整数永远可以用二进制精确 表示 ,但小数就不一定了。 十进制小数如何转化为二进制数 算法是乘以 2 直到没有了小数为止。 举个例子, 0.9 表示成二进制数 0.9*2=1.8 取整数部分 1 0.8(1.8 的小数部分 )*2=1.6 取 整数部分 1 0.6*2=1.2 取整数部分 1 0.2*2=0.4 取整数部分 0 0.4*2=0.8 取整数部分 0 0.8*2=1.6 取整数部分 1 0.6*2=1.2 取整数部分 0 ......... 0.9 二进制 表示为 (从上往下 ): 1100100100100...... 注意:上面的计算过程循环了,也就是说 *2 永 远不可能消灭小数部分,这样算法将无限下去。很显然,小 数的二进制表示有时是不可能精确的 。其实道理很简单,十进制系统中能不能准确表示出 1/3 呢?同样二进制系统也无法准确表示 1/10 。这也就解释了为什么浮点型减法出现了减不尽 的精度丢失问题。 2、 float 型在内存中的存储 众所周知、 Java 的 float 型在内存中占 4 个字节。float 的 32 个二进制位结构如下 float 内存存储结构 4bytes  31 30  29----23  22----0 表示  实数符号位 指数符号位 指数位 其中符号位 1 表示正,  有效数位 0 表示负。有效位数位  24 位,其中一位是实数符号位。 将一个 float 型转化为内存存储格式的步骤为: 1)先将这个实数的绝对值化为二进制格式,注意实数的整数部分和小数部分的二进制方法在上面已经探讨过了。 2)将这个二进制格式实数的小数点左移或右移 n 位,直到小数点移动到第一个有效数字的右边。 3)从小数点右边第一位开始数出二十三位数字放入第22 到第 0位。 4)如果实数是正的,则在第 31 位放入 #8220;0#8221; ,否则放入 #8220;1#8221; 。 (5)如果 n 是左移得到的,说明指数是正的,第 30 位放入 #8220;1#8221; 。如果 n 是右移得到的或 n=0 ,则 第 30 位放入 #8220;0#8221; 。 6)如果 n 是左移得到的, 则将 n 减去 1 后化为二进制,并在左边加 #8220;0#8221; 补足七位,放入第 29 到 第 23 位。如果 n 是右移得到的或 n=0 ,则将 n 化为二进制后在左边加 #8220;0#8221; 补足七位,再各位求反,再放入第 29 到第 23 位。 举例说明: 11.9 的内存存储格式 将 11.9 化为二进制后大约是 1011. 1110011001100110011001100... 。 (2) 将小数点左移三位到第一个有效位右侧: 1. 011 11100110011001100110 。 保证有效位数 24 位,右 侧多余的截取(误差在这里产生了 )。 这已经有了二十四位有效数字,将最左边一位 #8220;1#8221; 去掉,得到 #8220; 011 11100110011001100110 #8221; 共 23bit 。将它放入 float 存储结构的第 22 到第 0 位。 因为 11.9 是正数,因此在第 31 位实数符号位放入#8220;0#8221; 。 (5) 由于我们把小数点左移,因此在第 30 位指数符 号位放入  #8220;1#8221;  。 (6) 因为我们是把小数点左移  3 位,因此将  3 减去  1 得 2,化为二进制,并补足  7 位得到  0000010  ,放入第  29 到第  23 位。 最后表示 11.9 为: 0 1 0000010 011 11100110011001100110 再举一个例子: 0.2356 的内存存储格式 (1)将 0.2356 化为二进制后大约是 0.00111100010100000100100000 。 (2)将小数

文档评论(0)

183****6506 + 关注
实名认证
文档贡献者

该用户很懒,什么也没介绍

1亿VIP精品文档

相关文档