浮点转定点方法总结报告.doc

  1. 1、本文档共20页,可阅读全部内容。
  2. 2、原创力文档(book118)网站文档一经付费(服务费),不意味着购买了该文档的版权,仅供个人/单位学习、研究之用,不得用于商业用途,未经授权,严禁复制、发行、汇编、翻译或者网络传播等,侵权必究。
  3. 3、本站所有内容均由合作方或网友上传,本站不对文档的完整性、权威性及其观点立场正确性做任何保证或承诺!文档内容仅供研究参考,付费前请自行鉴别。如您付费,意味着您自己接受本站规则且自行承担风险,本站不退款、不进行额外附加服务;查看《如何避免下载的几个坑》。如果您已付费下载过本站文档,您可以点击 这里二次下载
  4. 4、如文档侵犯商业秘密、侵犯著作权、侵犯人身权等,请点击“版权申诉”(推荐),也可以打举报电话:400-050-0827(电话支持时间:9:00-18:30)。
查看更多
CII Technologies, Inc. 浮点转定点方法总结 PAGE PAGE 1 浮点转定点方法总结 —孔德琦 CII Technologies, Inc. 目录 目录 TOC \o "1-3" \h \z HYPERLINK \l "_To 定点运算方法 PAGEREF _To\h 3 HYPERLINK \l "_To 1.1 数 的 定 标 PAGEREF _To\h 3 HYPERLINK \l "_To 1.2 c语言:从浮点到定点 PAGEREF _To\h 4 HYPERLINK \l "_To 1.2.1 加法 PAGEREF _To\h 4 HYPERLINK \l "_To 1.2.2乘法 PAGEREF _To\h 6 HYPERLINK \l "_To 1.2.3除法 PAGEREF _To\h 7 HYPERLINK \l "_To 1.2.4 三角函数运算 PAGEREF _To\h 8 HYPERLINK \l "_To 1.2.5 开方运算 PAGEREF _To\h 9 HYPERLINK \l "_To 1.3 附录 PAGEREF _To\h 10 HYPERLINK \l "_To 1.3.1 附录1:定点函数库 PAGEREF _To\h 10 HYPERLINK \l "_To 1.3.2附录2:正弦和余弦表 PAGEREF _To\h 28 CII Technologies, Inc. 浮点转定点方法总结 定点运算方法 1.1 数 的 定 标 对某些处理器而言,参与数值运算的数就是16位的整型数。但在许多情况下,数学运算过程中的数不一定都是整数。那么,如何处理小数的呢?应该说,处理器本身无能为力。那么是不是就不能处理各种小数呢?当然不是。这其中的关键就是由程序员来确定一个数的小数点处于16位中的哪一位。这就是数的定标。 通过设定小数点在16位数中的不同位置,就可以表示不同大小和不同精度的小数了。数的定标用Q表示法。表1.1列出了一个16位数的16种Q表示能表示的十进制数值范围和近似的精度。 Q表示 精度(近似) 十进制数表示范围 Q15 0.00002 -1≤X≤0.9999695 Q14 0.00005 -2≤X≤1.9999390 Q13 0.0001 -4≤X≤3.9998779 Q12 0.0002 -8≤X≤7.9997559 Q11 0.0005 -16≤X≤15.9995117 Q10 0.001 -32≤X≤31.9990234 Q9 0.002 -64≤X≤63.9980469 Q8 0.005 -128≤X≤127.9960938 Q7 0.01 -256≤X≤255.9921875 Q6 0.02 -512≤X≤511.9804375 Q5 0.04 -1024≤X≤1023.96875 Q4 0.08 -2048≤X≤2047.9375 Q3 0.1 -4096≤X≤4095.875 Q2 0.25 -8192≤X≤8191.75 Q1 0.5 -16384≤X≤16383.5 Q0 1 -32768≤X≤32767 表1.1 Q表示、S表示及数值范围 从表1.1可以看出,同样一个16位数,若小数点设定的位置不同,它所表示的数也就不同。例如: 16进制数2000H=8192,用Q0表示 16进制数2000H=0.25,用Q15表示 从表1.1还可以看出,不同的Q所表示的数不仅范围不同,而且精度也不相同。Q越大,数值范围越小,但精度越高;相反,Q越小,数值范围越大,但精度就越低。例如,Q0的数值范围是-32768到+32767,其精度为1,而Q15的数值范围为-1到0.9999695,精度为 1/32768 = 0因此,对定点数而言,数值范围与精度是一对矛盾,一个变量要想能够表示比较大的数值范围,必须以牺牲精度为代价;而想提高精度,则数的表示范围就相应地减小。在实际的定点算法中,为了达到最佳的性能,必须充分考虑到这一点。 浮点数与定点数的转

文档评论(0)

xingyuxiaxiang + 关注
实名认证
内容提供者

该用户很懒,什么也没介绍

1亿VIP精品文档

相关文档