- 6
- 0
- 约小于1千字
- 约 10页
- 2017-08-24 发布于浙江
- 举报
第3节-2 有效数字及其与误差的关系.ppt
注意: 计算机对任何实数的舍入相对误差与实数本身无关,只与计算机字长t有关,通常定义数eps=0.5×β1-t为计算机精度。 由于计算机的精度只与字长有关,计算机字长t越大,其精度越高,有些数值要用双字长处理,双字长数据也称双精度数。 * * §3 有效数字及其与误差的关系 一、有效数字 例如:对无穷小数或着循环小数,可用四舍五入的办法来取其 近似值 若按四舍五入取四位小数,则可得其近似值3.1416 若取五位小数则得到其近似值为3.14159 这种近似值取法的特点是误差限为其末位的半个单位。 定义:当近似值x*的误差限是其某一位上的半个单位 时,我们就称其“准确”到这一位,且从该位起直到前 面第一位非零数字为止的所有数字都称为有效数字。 五位有效数字,精确到0.0001 203和0.0203都是具有三位有效数字的有效数. 0.0203和0.020300: 其中0.0203具有三位有效数字,精确到0.0001, 0.020300具有五位有效数字,精确到0.000001. 可见,两者的精确程度大不相同,后者比前者精确.注:有效数字尾部的零不可随意省去,以免损失精度. 二、有效数字与误差的关系 上式表达了有效数字与相对误差之间的关系,由此 可见,有效数字的位数反映了近似值的相对精确度。 三.计算机舍入误差
您可能关注的文档
最近下载
- Power Up1精品教学课件-U3 词汇.pptx VIP
- ISO 22000_2018 食品安全管理体系 标准原文 + 手册模板.docx VIP
- 《医疗建筑综合能源管理规程》(TGMIAAC 004-2024).pdf VIP
- 2024-2025 年全国六年级小升初语文真题汇编专题14修辞手法(学生版+教师版) .docx VIP
- 成渝地区人工智能算力中心集群规划.pdf VIP
- 某县富民生态养猪场建设项目可行性评估报告.pdf VIP
- 2024-2025 年全国六年级小升初语文真题汇编专题13标点符号(学生版+教师版) .docx VIP
- 智能算力基础设施规划与实施路径探析.docx VIP
- 浙西南民间音乐知到智慧树期末考试答案题库2025年丽水学院.docx VIP
- 2024-2025 年全国六年级小升初语文真题汇编专题12句子排序(学生版+教师版) .docx VIP
原创力文档

文档评论(0)