数值计算误差例 1 按四舍五入原则写出下列各数具有
数:187.9325,0 8.000033, 2.7182818。
按定义,上述各数具有 5 位有效数字的近似数分别是
注意x = 8.000018.3, 是
5 位有效数字的近似
8.0000 而不是 8,因
为 8 只有 1 位有效数字。
例 2 重 力 常 数 g
g ~ 0.980 x101 m / s2
, 如 果
; 若 以
以 m / s2 km / s2
为 单 位 ,
为 单 位 ,
g ~ 0.980 x10一2 km / s2
,它们都具有 3 位有效数字,因为按第
您可能关注的文档
- 挑战杯河北省一等奖大蒜联合收获机解析.docx
- 接触网基础技术交底书解析.docx
- 插花活动方案.docx
- 推广版套件说明书解析.docx
- 收益及收益分配表.docx
- 教室照明控制器的设计.docx
- 教师公寓#楼防水专项施工方案.docx
- 敦化市加油站安全标准化标准及考核细概述.docx
- 数值分析证明.docx
- 数字信号处理实验指导书.docx
- 计量规程规范 JJF 2476-2026腹膜透析机校准规范.pdf
- 《JJF 2465-2026天然气在线硫化氢气体检测仪校准规范》.pdf
- JJF 1111-2026调制度测量仪校准规范.pdf
- 《JJF 1111-2026调制度测量仪校准规范》.pdf
- 计量规程规范 JJF 2471-2026实时荧光定量聚合酶链反应核酸检测系统分析性能确认和验证技术规范.pdf
- JJF 2471-2026实时荧光定量聚合酶链反应核酸检测系统分析性能确认和验证技术规范.pdf
- 《JJF 2471-2026实时荧光定量聚合酶链反应核酸检测系统分析性能确认和验证技术规范》.pdf
- 《JJF 2470-2026食用油品质检测仪校准规范》.pdf
- JJF 2470-2026食用油品质检测仪校准规范.pdf
- 计量规程规范 JJF 2470-2026食用油品质检测仪校准规范.pdf
最近下载
- 英语新高考I卷读后续写范文33篇(附故事原结尾).docx VIP
- 比亚迪秦插电式混合动力系统构造与维修.pptx VIP
- 《空间数据处理与应用》课件.ppt VIP
- DB44T520-2008 地下河及溶洞旅游景区安全和服务规范.pdf VIP
- 《GIS空间数据结构》课件讲解:原理与应用.ppt VIP
- 高一生物 6.3 细胞的衰老与死亡课件.pptx
- 调速器安装作业指导书.docx
- 2024年高考真题和模拟题英语分类汇编:专题15 读后续写(新高考) (原卷版) (全国通用).docx VIP
- 北京林业大学2024-2025学年《计算机应用基础》期末考试试卷(B卷)附参考答案.docx
- 工程施工降低成本措施.doc VIP
原创力文档

文档评论(0)