第节- 有效数字及其与误差的关系.ppt
注意: 计算机对任何实数的舍入相对误差与实数本身无关,只与计算机字长t有关,通常定义数eps=0.5×β1-t为计算机精度。 由于计算机的精度只与字长有关,计算机字长t越大,其精度越高,有些数值要用双字长处理,双字长数据也称双精度数。 * * §3 有效数字及其与误差的关系 一、有效数字 例如:对无穷小数或着循环小数,可用四舍五入的办法来取其 近似值 若按四舍五入取四位小数,则可得其近似值3.1416 若取五位小数则得到其近似值为3.14159 这种近似值取法的特点是误差限为其末位的半个单位。 定义:当近似值x*的误差限是其某一位上的半个单位 时,我们就称其“准确”到这一位,且从该位起直到前 面第一位非零数字为止的所有数字都称为有效数字。 五位有效数字,精确到0.0001 203和0.0203都是具有三位有效数字的有效数. 0.0203和0.020300: 其中0.0203具有三位有效数字,精确到0.0001, 0.020300具有五位有效数字,精确到0.000001. 可见,两者的精确程度大不相同,后者比前者精确.注:有效数字尾部的零不可随意省去,以免损失精度. 二、有效数字与误差的关系 上式表达了有效数字与相对误差之间的关系,由此 可见,有效数字的位数反映了近似值的相对精确度。 三.计算机舍入误差
您可能关注的文档
- 第章-绝缘配合.ppt
- 第章-脚手架.ppt
- 第章-需求--需求获取技术.ppt
- 第章AD与DA转换.ppt
- 第章AD转换模块.ppt
- 第章AutoCAD工艺流程图绘制.ppt
- 第章LabVIEW的数据类型.ppt
- 第章_常见错误_.ppt
- 第章·第讲·燃烧热、能源.ppt
- 第章——工程项目费用效益分析.ppt
- 建筑工程材料选择题:碳素结构钢与钢筋性能.pdf
- 眼部护理的跨文化比较.pptx
- 眼部护理:季节性变化的影响.pptx
- 眼部护理:男士与女士的特别需求.pptx
- 《快乐读书吧:在那奇妙的王国里》(课件)-2025-2026学年语文三年级上册统编版.pptx
- 眼部护理:眼部疲劳的预防措施.pptx
- 2026届九年级英语中考冲刺分层模拟卷与答案解析(质量检查版,含听力原文、作答空间和评分细则).docx
- 2026版项目投资合作协议书范本条款清单与签署风控提示模板(流程图).docx
- 2026版企业通用岗位结构化面试题库与综合评分表规范填写规范与审批台账模板(看板模板).docx
- 2026版企业会计准则现金流量表编制口径手册(执行版,含分类口径/填报模板填写规范与审批台账模板(测算模型).docx
最近下载
- 2025美国心脏协会和美国儿科学会新生儿复苏、儿童基础生命支持和儿童高级生命支持指南更新解读.pptx VIP
- 温室控制系统(GCS)系列:Wadsworth Control Systems_(17).案例研究:成功应用实例.docx VIP
- 2025年事业单位供销合作社岗真题(附答案).docx VIP
- 2024年水利安全员(B证)考试题库-上(单选题汇总).doc VIP
- 温室控制系统(GCS)系列:Wadsworth Control Systems_(15).用户界面与操作指南.docx VIP
- 煤矿重大事故隐患判定标准解读培训课件.doc VIP
- 温室控制系统(GCS)系列:Wadsworth Control Systems_(14).日常维护与故障排除.docx VIP
- 温室控制系统(GCS)系列:Wadsworth Control Systems_(13).WadsworthControlSystems的安装与调试.docx VIP
- 温室控制系统(GCS)系列:Wadsworth Control Systems_(12).自动化与智能化技术.docx VIP
- 调制解调实验报告.pdf VIP
原创力文档

文档评论(0)