- 1、本文档共20页,可阅读全部内容。
- 2、原创力文档(book118)网站文档一经付费(服务费),不意味着购买了该文档的版权,仅供个人/单位学习、研究之用,不得用于商业用途,未经授权,严禁复制、发行、汇编、翻译或者网络传播等,侵权必究。
- 3、本站所有内容均由合作方或网友上传,本站不对文档的完整性、权威性及其观点立场正确性做任何保证或承诺!文档内容仅供研究参考,付费前请自行鉴别。如您付费,意味着您自己接受本站规则且自行承担风险,本站不退款、不进行额外附加服务;查看《如何避免下载的几个坑》。如果您已付费下载过本站文档,您可以点击 这里二次下载。
- 4、如文档侵犯商业秘密、侵犯著作权、侵犯人身权等,请点击“版权申诉”(推荐),也可以打举报电话:400-050-0827(电话支持时间:9:00-18:30)。
查看更多
CII Technologies, Inc. 浮点转定点方法总结
PAGE
PAGE 1
浮点转定点方法总结
—孔德琦
CII Technologies, Inc. 目录
目录
TOC \o "1-3" \h \z HYPERLINK \l "_To 定点运算方法 PAGEREF _To\h 3
HYPERLINK \l "_To 1.1 数 的 定 标 PAGEREF _To\h 3
HYPERLINK \l "_To 1.2 c语言:从浮点到定点 PAGEREF _To\h 4
HYPERLINK \l "_To 1.2.1 加法 PAGEREF _To\h 4
HYPERLINK \l "_To 1.2.2乘法 PAGEREF _To\h 6
HYPERLINK \l "_To 1.2.3除法 PAGEREF _To\h 7
HYPERLINK \l "_To 1.2.4 三角函数运算 PAGEREF _To\h 8
HYPERLINK \l "_To 1.2.5 开方运算 PAGEREF _To\h 9
HYPERLINK \l "_To 1.3 附录 PAGEREF _To\h 10
HYPERLINK \l "_To 1.3.1 附录1:定点函数库 PAGEREF _To\h 10
HYPERLINK \l "_To 1.3.2附录2:正弦和余弦表 PAGEREF _To\h 28
CII Technologies, Inc. 浮点转定点方法总结
定点运算方法
1.1 数 的 定 标
对某些处理器而言,参与数值运算的数就是16位的整型数。但在许多情况下,数学运算过程中的数不一定都是整数。那么,如何处理小数的呢?应该说,处理器本身无能为力。那么是不是就不能处理各种小数呢?当然不是。这其中的关键就是由程序员来确定一个数的小数点处于16位中的哪一位。这就是数的定标。
通过设定小数点在16位数中的不同位置,就可以表示不同大小和不同精度的小数了。数的定标用Q表示法。表1.1列出了一个16位数的16种Q表示能表示的十进制数值范围和近似的精度。
Q表示
精度(近似)
十进制数表示范围
Q15
0.00002
-1≤X≤0.9999695
Q14
0.00005
-2≤X≤1.9999390
Q13
0.0001
-4≤X≤3.9998779
Q12
0.0002
-8≤X≤7.9997559
Q11
0.0005
-16≤X≤15.9995117
Q10
0.001
-32≤X≤31.9990234
Q9
0.002
-64≤X≤63.9980469
Q8
0.005
-128≤X≤127.9960938
Q7
0.01
-256≤X≤255.9921875
Q6
0.02
-512≤X≤511.9804375
Q5
0.04
-1024≤X≤1023.96875
Q4
0.08
-2048≤X≤2047.9375
Q3
0.1
-4096≤X≤4095.875
Q2
0.25
-8192≤X≤8191.75
Q1
0.5
-16384≤X≤16383.5
Q0
1
-32768≤X≤32767
表1.1 Q表示、S表示及数值范围
从表1.1可以看出,同样一个16位数,若小数点设定的位置不同,它所表示的数也就不同。例如:
16进制数2000H=8192,用Q0表示
16进制数2000H=0.25,用Q15表示
从表1.1还可以看出,不同的Q所表示的数不仅范围不同,而且精度也不相同。Q越大,数值范围越小,但精度越高;相反,Q越小,数值范围越大,但精度就越低。例如,Q0的数值范围是-32768到+32767,其精度为1,而Q15的数值范围为-1到0.9999695,精度为 1/32768 = 0因此,对定点数而言,数值范围与精度是一对矛盾,一个变量要想能够表示比较大的数值范围,必须以牺牲精度为代价;而想提高精度,则数的表示范围就相应地减小。在实际的定点算法中,为了达到最佳的性能,必须充分考虑到这一点。
浮点数与定点数的转
您可能关注的文档
- 施工项目部技术和技术管理总结报告.doc
- 旅游局创建平安单位的工作总结报告.doc
- 无机化学知识点总结报告.doc
- 日语N4级语法总结报告.doc
- 日语助词用法总结报告.doc
- 星巴克实习总结报告.doc
- 春节值班期间工作总结报告.doc
- 晋升助理工程师个人见习期工作总结报告.doc
- 晋宁县五五普法总结报告表彰暨六五普法动员会议讲话稿1.doc
- 普通生态学重点总结报告精华.doc
- 第12课 我们小点儿声 课件 二年级道德与法治上册(部编版).ppt
- 11.2我从哪里来(教学课件)二年级道德与法治下册(统编版).ppt
- 第10课 我们不乱扔 课件 二年级道德与法治上册(部编版).ppt
- 1.3过好我们的课余生活 课件五年级道德与法治上册(部编版).ppt
- 第四单元《法律保护我们健康成长》大单元整体学程设计道德与法治六年级上册统编版.pdf
- 第十一课:多姿多彩的民间艺术(分层练习)四年级道法下册 部编版.pdf
- 第八课:大家的“朋友”(分层练习)三年级道法下册 部编版.pdf
- 第5课 我爱我们班 课件 二年级道德与法治上册(部编版).ppt
- 第二单元 我们是公民 大单元整体学程设计道德与法治六年级上册统编版.pdf
- 人教部编版二年级语文下册第五单元单元教学课件.ppt
文档评论(0)