- 1、原创力文档(book118)网站文档一经付费(服务费),不意味着购买了该文档的版权,仅供个人/单位学习、研究之用,不得用于商业用途,未经授权,严禁复制、发行、汇编、翻译或者网络传播等,侵权必究。。
- 2、本站所有内容均由合作方或网友上传,本站不对文档的完整性、权威性及其观点立场正确性做任何保证或承诺!文档内容仅供研究参考,付费前请自行鉴别。如您付费,意味着您自己接受本站规则且自行承担风险,本站不退款、不进行额外附加服务;查看《如何避免下载的几个坑》。如果您已付费下载过本站文档,您可以点击 这里二次下载。
- 3、如文档侵犯商业秘密、侵犯著作权、侵犯人身权等,请点击“版权申诉”(推荐),也可以打举报电话:400-050-0827(电话支持时间:9:00-18:30)。
- 4、该文档为VIP文档,如果想要下载,成为VIP会员后,下载免费。
- 5、成为VIP后,下载本文档将扣除1次下载权益。下载后,不支持退款、换文档。如有疑问请联系我们。
- 6、成为VIP后,您将拥有八大权益,权益包括:VIP文档下载权益、阅读免打扰、文档格式转换、高级专利检索、专属身份标志、高级客服、多端互通、版权登记。
- 7、VIP文档为合作方或网友上传,每下载1次, 网站将根据用户上传文档的质量评分、类型等,对文档贡献者给予高额补贴、流量扶持。如果你也想贡献VIP文档。上传文档
查看更多
float 精度丢失问题
问题提出: 12.0f-11.9f=0,减不尽 为什么?
现在我们就详细剖析一下浮点型运算为什么会造成精度丢失?
1、小数的二进制表示问题
首先我们要搞清楚下面两个问题:
十进制整数如何转化为二进制数
算法很简单。举个例子, 11 表示成二进制数:
11/2=5余 1 5/2=2 余 1 2/2=1 余 0
1/2=0 余 1
0 结束 11 二进制表
示为 (从下往上
):1011
这里提一点:只要遇到除以后的结果为
0 了就结
束了,大家想一想,所有的整数除以
2 是不是一定能够最终
得到 0。换句话说,所有的整数转变为二进制数的算法会不
会无限循环下去呢?绝对不会,整数永远可以用二进制精确
表示 ,但小数就不一定了。
十进制小数如何转化为二进制数
算法是乘以 2 直到没有了小数为止。 举个例子,
0.9 表示成二进制数
0.9*2=1.8 取整数部分 1
0.8(1.8 的小数部分 )*2=1.6 取
整数部分 1
0.6*2=1.2 取整数部分 1
0.2*2=0.4 取整数部分 0
0.4*2=0.8 取整数部分 0
0.8*2=1.6 取整数部分 1
0.6*2=1.2 取整数部分 0
......... 0.9 二进制
表示为 (从上往下 ): 1100100100100......
注意:上面的计算过程循环了,也就是说 *2 永
远不可能消灭小数部分,这样算法将无限下去。很显然,小
数的二进制表示有时是不可能精确的 。其实道理很简单,十进制系统中能不能准确表示出 1/3 呢?同样二进制系统也无法准确表示 1/10 。这也就解释了为什么浮点型减法出现了减不尽 的精度丢失问题。
2、 float 型在内存中的存储
众所周知、 Java 的 float 型在内存中占 4 个字节。float
的 32 个二进制位结构如下 float 内存存储结构
4bytes
31
30
29----23
22----0
表示
实数符号位
指数符号位 指数位
其中符号位 1 表示正,
有效数位
0 表示负。有效位数位
24
位,其中一位是实数符号位。
将一个 float 型转化为内存存储格式的步骤为:
1)先将这个实数的绝对值化为二进制格式,注意实数的整数部分和小数部分的二进制方法在上面已经探讨过了。
2)将这个二进制格式实数的小数点左移或右移 n 位,直到小数点移动到第一个有效数字的右边。
3)从小数点右边第一位开始数出二十三位数字放入第22 到第 0位。
4)如果实数是正的,则在第 31 位放入
#8220;0#8221; ,否则放入 #8220;1#8221; 。
(5)如果 n 是左移得到的,说明指数是正的,第 30 位放入 #8220;1#8221; 。如果 n 是右移得到的或 n=0 ,则
第 30 位放入 #8220;0#8221; 。
6)如果 n 是左移得到的, 则将 n 减去 1 后化为二进制,并在左边加 #8220;0#8221; 补足七位,放入第 29 到
第 23 位。如果 n 是右移得到的或 n=0 ,则将 n 化为二进制后在左边加 #8220;0#8221; 补足七位,再各位求反,再放入第 29 到第 23 位。
举例说明: 11.9 的内存存储格式
将 11.9 化为二进制后大约是 1011.
1110011001100110011001100... 。
(2) 将小数点左移三位到第一个有效位右侧: 1.
011 11100110011001100110 。 保证有效位数 24 位,右
侧多余的截取(误差在这里产生了 )。
这已经有了二十四位有效数字,将最左边一位
#8220;1#8221; 去掉,得到 #8220; 011
11100110011001100110 #8221; 共 23bit 。将它放入 float
存储结构的第 22 到第 0 位。
因为 11.9 是正数,因此在第 31 位实数符号位放入#8220;0#8221; 。
(5) 由于我们把小数点左移,因此在第 30 位指数符
号位放入
#8220;1#8221;
。
(6) 因为我们是把小数点左移
3 位,因此将
3 减去
1
得 2,化为二进制,并补足
7 位得到
0000010
,放入第
29
到第
23 位。
最后表示 11.9 为: 0 1 0000010 011
11100110011001100110
再举一个例子: 0.2356 的内存存储格式
(1)将 0.2356 化为二进制后大约是
0.00111100010100000100100000 。
(2)将小数
您可能关注的文档
最近下载
- 2025年公务员多省联考《申论》真题试题答案解析(湖南省市卷).pdf VIP
- T∕CECS 10039-2019 绿色建材评价 墙面涂料(可复制版).pdf
- 2013款别克昂科拉用户使用手册.pdf VIP
- 通化(2011)1207双线路腕臂.pdf VIP
- 《公司研发投入与公司价值之间关系研究文献综述》2400字.doc VIP
- 高血压的护理(共22张PPT).pptx VIP
- 2025金融监管局考试真题及答案.doc VIP
- 通化(2010)1042双线路腕臂.pdf VIP
- 空间灵活性如何通过设计提升空间的灵活性与多功能性.pptx VIP
- 叁化(2008)1168多线路腕臂构造安装图.pdf VIP
原创力文档


文档评论(0)