单精度与双精度区别.docVIP

  1. 1、本文档共2页,可阅读全部内容。
  2. 2、原创力文档(book118)网站文档一经付费(服务费),不意味着购买了该文档的版权,仅供个人/单位学习、研究之用,不得用于商业用途,未经授权,严禁复制、发行、汇编、翻译或者网络传播等,侵权必究。
  3. 3、本站所有内容均由合作方或网友上传,本站不对文档的完整性、权威性及其观点立场正确性做任何保证或承诺!文档内容仅供研究参考,付费前请自行鉴别。如您付费,意味着您自己接受本站规则且自行承担风险,本站不退款、不进行额外附加服务;查看《如何避免下载的几个坑》。如果您已付费下载过本站文档,您可以点击 这里二次下载
  4. 4、如文档侵犯商业秘密、侵犯著作权、侵犯人身权等,请点击“版权申诉”(推荐),也可以打举报电话:400-050-0827(电话支持时间:9:00-18:30)。
  5. 5、该文档为VIP文档,如果想要下载,成为VIP会员后,下载免费。
  6. 6、成为VIP后,下载本文档将扣除1次下载权益。下载后,不支持退款、换文档。如有疑问请联系我们
  7. 7、成为VIP后,您将拥有八大权益,权益包括:VIP文档下载权益、阅读免打扰、文档格式转换、高级专利检索、专属身份标志、高级客服、多端互通、版权登记。
  8. 8、VIP文档为合作方或网友上传,每下载1次, 网站将根据用户上传文档的质量评分、类型等,对文档贡献者给予高额补贴、流量扶持。如果你也想贡献VIP文档。上传文档
查看更多
单精度和双精度的区别??? 单精度和双精度数值类型最早出现在C语言中(比较通用的语言里面),在C语言中单精度类型称为浮点类型(Float),顾名思义是通过浮动小数点来实现数据的存储。这两个数据类型最早是为了科学计算而产生的,他能够给科学计算提供足够高的精度来存储对于精度要求比较高的数值。但是与此同时,他也完全符合科学计算中对于数值的观念:??? 当我们比较两个棍子的长度的时候,一种方法是并排放着比较一下,一种方法是分别量出长度。但是事实上世界上并不存在两根完全一样长的棍子,我们测量的长度精度受到人类目测能力和测量工具精度的限制。从这个意义上来说,判断两根棍子是否一样长丝毫没有意义,因为结果一定是False,但是我们可以比较他们两个哪个更长或者更短。这个例子很好地概括了单精度/双精度数值类型的设计初衷和存在意义。??? 基于上述认识,单精度/双精度数值类型从一开始设计的时候,就不是一个准确的数值类型,他只保证在他这个数值类型的精度之内是准确的,精度之外则不保证,比方说,一个数值5.1,很可能存储在单精度/双精度数值中的实际值是5.100000000001或者5.09999999999999。导致这个现象的原因我们可以通过两种方式来解释:??? 简单的解释方法:??? 你可以尝试在任何一个控件的属性面板中,设定他的宽度为:3.2CM,当你输入完毕后,你会发现值自动变成了3.199cm,无论你怎么改,你都无法输入3.200CM,因为实际上在电脑中存储的并不是CM为单位的数值,而是“缇”为单位的数值,而“缇”和CM之间的比值,是个很难被除尽的数,因此你输入完毕后,电脑自动转换成了最接近的“缇”值,然后再转换成厘米显示到属性面板上,这一乘一除,两次四舍五入,误差就出来了。单精度/双精度也是类似的原理,其实在二进制存储的时候,单精度/双精度都采用了类似相近分数的方法,而这样的存储是不可能做到准确的。??? 深入的解释方法:??? 让我们来看看我们存储到数字介质中的单精度/双精度值到底是怎么样的,我们使用如下代码对单精度类型进行一个解剖:??? Public?Declare?Sub?CopyMemory?Lib?kernel32?Alias? RtlMoveMemory?(Destination?As?Any,?Source?As?Any,?ByVal?Length?As?Long)???? Public?Sub?floatTest()??Dim?dblVar?As?Single??? dblVar?=?5.731?/?8??dblOutput?dblVar??? dblVar?=?dblVar?*?2??dblOutput?dblVar??? dblVar?=?dblVar?*?2??dblOutput?dblVar??? dblVar?=?dblVar?*?2??dblOutput?dblVar??? dblVar?=?dblVar?*?2??dblOutput?dblVar??? dblVar?=?dblVar?*?2??dblOutput?dblVar??? End?Sub??? Public?Sub?dblOutput(ByVal?dblVar?As?Single)??Dim?bytVar(3)?As?Byte?? Dim?i?As?Integer,?j?As?Integer??Dim?strVar?As?String??? CopyMemory?ByVal?VarPtr(bytVar(0)),?ByVal?VarPtr(dblVar),?4??strVar?=?dblVar??:???For?i?=?3?To?0?Step?-1??For?j?=?7?To?0?Step?-1?? strVar?=?strVar??(bytVar(i)?And?2?^?j)?/?2?^?j?? Next?j?? strVar?=?strVar?????Next?i?? Debug.Print?strVar??? End?Sub?? 运行后我们得到输出结果(输出格式为高位左,低位右):??? .716375:0011011101011010??1.43275:1011011101011010??2.8655:0011011101011010??5.731:1011011101011010??11.462:0011011101011010??22.924:1011011101011010?? 这里,我们把单精度类型

文档评论(0)

xeve238 + 关注
实名认证
文档贡献者

该用户很懒,什么也没介绍

1亿VIP精品文档

相关文档