第一,基本精读.pptVIP

  • 4
  • 0
  • 约1.67万字
  • 约 84页
  • 2016-08-24 发布于湖北
  • 举报
* 第*页 由于每种整数数据类型都有相应的取值范围,因此数学运算有可能产生结果溢出。MATLAB 利用饱和处理处理此类问题,即当运算结果超出了此类数据类型的上限或下限时,系统将结果设置为该上限或下限。 例 2-10 整数运算中的数据溢出 x=int8(100); y=int8(90); z=x+y z = 127 x-3*y ans = -27 x-y-y-y ans = -128 结果溢出上限,因此结果为127 3*y溢出上限,结果为127,继续计算,得到最后结果-27 计算x-y-y-y时,从左到右进行计算,结果溢出下限,因此结果为-128 * 第*页 MATLAB 的默认数据类型是双精度类型(double)。为了节省存储空间,MATLAB 也支持单精度数据类型的数组。 单精度和双精度数据类型的取值范围和精度可以通过下例进行查看 * 第*页 例 单精度和双精度数据类型的取值范围和精度 realmin(single) ans = 1.1755e-038 realmax(single) ans = 3.4028e+038 eps(single) ans = 1.1921e-007 realmin(double) ans = 2.2251e-308 realmax(double) ans = 1.7977e+308 e

文档评论(0)

1亿VIP精品文档

相关文档