- 12
- 0
- 约1.14千字
- 约 9页
- 2016-12-30 发布于江苏
- 举报
内蒙古大学自动化系 数值计算与MATLAB 第3章 误差和MATLAB的计算精度 3.1 误差 3.1.1 误差的来源 模型误差 观测误差 截断误差(方法误差) 舍入误差 3.1.2 有关误差的一些概念 1. 绝对误差和绝对误差限 ae(x)=x*- x |ae(x)|=|x*-x|≤s 2. 相对误差和相对误差限 3、有效数字: 如果近似值x的误差限s是某一位数上的半个单位,从该位数到x的左数第一位非零数共有n位,则称x有“n位有效数字”。 4、绝对误差、相对误差和有效数字的关系 3.2 MATLAB中的数值计算精度 3.2.1 浮点数及其运算特点 允许小数点浮动的表示数字方法,称为浮点表示法,这样的数称为浮点数。浮点数的一般表示形式为: x=±(0.d1d2d3…dt) =±(d1 + d2 +…+ ) 1) 为浮点数的基底,根据数的进制取值; 2)P为浮点表示的阶码; 3) 0.d1d2d3…dt称浮点数的尾数; 4)t是用正整数表示的计算机字长。 计算机中进行阶码不同的两个数相加减时,先将阶码统一为较大者,然后将尾数相加减。如设x=0.3127×10-6,y=0.4153×10-4,则 x+y≈0.0031×10 -4+0.4153×10 -4
您可能关注的文档
- 清华(上)rss.ppt
- 温特哈尔特油画作品选(下).ppt
- 温特哈尔特油画作品选(上).ppt
- 炼 油 技 术 文 摘第三期.ppt
- 清华(下).ppt
- 热学(9.15).ppt
- 漫谈香蕉种种学问.ppt
- 煮粥百法d.ppt
- 煮粥五十法.ppt
- 熬粥全集.ppt
- 无人机在设施农业中的精准作业应用与市场前景.docx
- 户用光储一体化系统产品形态、市场渗透率与消费者偏好研究_市场调研报告.docx
- 光伏产品“数字护照”(Digital Product Passport)强制推行时间表预测及其对供应链透明化的革命性影响.docx
- 水上光伏(湖泊、水库、近海)技术挑战、环境评估与投资收益研究_市场调研报告.docx
- 电镀铜栅线技术替代银浆的彻底无银化路径与成本拐点预测.docx
- 硅基叠层太阳能电池的效率突破与产业化瓶颈分析.docx
- 城市地下管廊无人机自主充电与数据断点续传技术应用.docx
- 老年人对器官捐献的认知与意愿调研.docx
- 大疆创新与极飞科技在农业无人机领域的战略路径对比.docx
- 体育赛事IP数字化运营:NBA、CBA短视频内容分发策略与粉丝活跃度对比_竞争分析报告.docx
最近下载
- 2026年初级会计职称考试模拟试卷(含详细答案).docx VIP
- 焊接结构生产 第2版 作者 邓洪军 第四章__焊接结构的装配与焊接.ppt VIP
- 《陆上风力发电机组钢混塔架预应力技术规程》.pdf VIP
- 2024年南方电网新型电力系统(北京)研究院有限公司第二批社会招聘7人笔试参考题库附带答案详解.pdf
- (共19页PPT)认识并使用生活中的数字设备认识并使用生活中的数字设备课件.pptx VIP
- 2024年全国高中数学联赛初赛试题答案汇总.pdf VIP
- 泗渡河水库电站工程通水验收建设管理工作报告.doc VIP
- 天体物理学与宇宙.ppt VIP
- 年产20000吨柠檬酸厂的提取车间设计说明书.doc VIP
- 中医内科学第七版教材.doc VIP
原创力文档

文档评论(0)