- 4
- 0
- 约1.67万字
- 约 84页
- 2016-08-24 发布于湖北
- 举报
* 第*页 由于每种整数数据类型都有相应的取值范围,因此数学运算有可能产生结果溢出。MATLAB 利用饱和处理处理此类问题,即当运算结果超出了此类数据类型的上限或下限时,系统将结果设置为该上限或下限。 例 2-10 整数运算中的数据溢出 x=int8(100); y=int8(90); z=x+y z = 127 x-3*y ans = -27 x-y-y-y ans = -128 结果溢出上限,因此结果为127 3*y溢出上限,结果为127,继续计算,得到最后结果-27 计算x-y-y-y时,从左到右进行计算,结果溢出下限,因此结果为-128 * 第*页 MATLAB 的默认数据类型是双精度类型(double)。为了节省存储空间,MATLAB 也支持单精度数据类型的数组。 单精度和双精度数据类型的取值范围和精度可以通过下例进行查看 * 第*页 例 单精度和双精度数据类型的取值范围和精度 realmin(single) ans = 1.1755e-038 realmax(single) ans = 3.4028e+038 eps(single) ans = 1.1921e-007 realmin(double) ans = 2.2251e-308 realmax(double) ans = 1.7977e+308 e
您可能关注的文档
最近下载
- 2024四川自贡市本级招用高校毕业生从事公共服务72人备考试题及答案解析.docx VIP
- 工艺标准-IPC-TM-650 CN测试方法手册.pdf VIP
- 【MOOC答案】《现代密码学》(电子科技大学)章节作业慕课答案.docx
- 2022—2023年度广东省职业院校学生专业技能大赛CAD机械设计赛项竞赛规程.pdf VIP
- 五年(2021-2025)高考历史真题分类汇编专题24 世界史(材料分析题、观点论述题)(全国通用)(原卷版).docx VIP
- 肠梗阻导管在防治肠梗阻中的临床应用专家共识.pptx VIP
- 2026湖南永州市市直企事业单位引进急需紧缺专业人才206人备考题库附答案.docx VIP
- 个性化营养评估技术指南团体标准.pptx
- 2025年河北省石家庄市中考地理试卷(含答案).docx
- 2023年广东省深圳市中考物理一模试卷.docx VIP
原创力文档

文档评论(0)