- 3
- 0
- 约 58页
- 2017-05-13 发布于四川
- 举报
2.3符号常量与其定义方法
2.3 符号常量及其定义方法 2.4 FORTRAN内部函数 2.5 FORTRAN表达式和它的求值规则 2.5.1 算术表达式 2.5.2 关系表达式 2.5.3 逻辑表达式 2.5.4 字符表达式 乘方运算的规律见表4。 表 4 类型的转换是从左向右进行的,在遇到不同类 型的算术量时才进行转换。例如: 1/4*20.0。并不是一开始就同时将1和4转换成实数1.0和4.0然后进行实数运算(得5.0),而是先进行整数运算1/4得0,然后再乘以20.0,使结果转化为实型,最后结果为0.00000。 (5) 算术表达式运算的误差问题 整型量的运算是准确的,只要在整数范围内,没有任何误差。而实型量的运算会出现一些误差,例如:11111.1*1111.11本应321,但由于受有效位数的限制,只能得到1.234565*107(假定所用的FORTRAN允许有效位数为7位)。 又如: 0.001+1246825.0-1246820.0 本应得到5.001。 但由于有效位数的限制,在进行前两项相加时不可能得到1246825.001(因为它需要10个有效位数),而只能得到1246825.0,再进行减法得到5.0,显然有误差。这个误差也来源于有效位数,也就是说由于实数在内部的存储方式引起的。
您可能关注的文档
最近下载
- 南京六合BRW400-315/31.5乳化液泵使用说明书.pdf VIP
- 混合动力城市客车车身骨架设计-课程设计论文.doc VIP
- 企业价值评估中收益法的理论与实践探究:基于多案例分析.docx VIP
- 城市客车车身骨架设计及模态分析分析.pdf VIP
- SAE_J1742_1998电线束高压连接.pdf VIP
- TigerTouch老虎控台教程详解.pdf
- Unit 7 A Good Read课时4 Section B 1a-1e(教学评教学设计)英语新教材人教版八年级下册.docx
- 欧洲规范-NF P94-093-中文版.pdf VIP
- 医院检验科网络应急预案.docx VIP
- 环境监测采样培训课件.pptx VIP
原创力文档

文档评论(0)