- 27
- 0
- 约小于1千字
- 约 12页
- 2018-11-20 发布于天津
- 举报
【大学课件】有效数字及计算规则知识分享.ppt
第七节 有效数字及计算规则
一. 有效数字
有效数字: 是在分析工作中实际测量到的数字,除最后一位是可疑的外,其余的数字都是确定的。它一方面反映了数量的大小,同时也反映了测量的精密程度。;修约规则:为四舍六入五留双。例如,将
下列数据修约为两位有效数字
;三. 有效数字的计算规则
(1) 进行数值加减时,结果保留小数点
后位数应与小数点位数最少者相
同。
例如, 0.0121+12.56+7.8432
可先修约后计算,即
0.01+12.56+7.84=20.41
; (2) 进行数值乘除时,结果保留位数应与
有效数字位数最少者相同。
例如, (0.0142×24.43×305.84)/28.67
可先修约后计算,
(0.0142×24.4×306)/28.7=3.69。;(3) 进行数值乘方或开方时, 结果有
效数字位数不变。
例如, 6.542=42.8 ;(4) 进行对数计算时,对数尾数的位数应
与真数的有效数字位数相同。
例如:;(5) 表示分析结果的精密度和准确度
时, 误差和偏差等只取一位或两
位有效数字。
;(6) 计算中涉及到常数 以及非测量
您可能关注的文档
- 【大学课件】数字化教学资源开发知识分享.ppt
- 【大学课件】数字干涉测量方法及面形的三维干涉测量及评价知识分享.ppt
- 【大学课件】数字时代营销传播活动的策划知识分享.ppt
- 【大学课件】数字滤波器中系数量化效应知识分享.ppt
- 【大学课件】数字程控交换技术知识分享.ppt
- 【大学课件】数字谱分析知识分享.ppt
- 【大学课件】数学建模与数学实验 数学建模简介知识分享.ppt
- 【大学课件】数学教育发展简史知识分享.ppt
- 【大学课件】数据仓库应用与管理知识分享.ppt
- 【大学课件】数据库安全性p54知识分享.ppt
- 2025-2026学年上海市普陀区曹杨第二中学高一(下)期末数学试卷(含答案).docx
- 2025-2026学年新疆生产建设兵团第二中学高一(下)期末数学试卷试卷(含答案).docx
- 2025-2026学年湖南省永州市高一(上)期末数学试卷(含答案).docx
- 2025-2026学年江西省宜春市丰城市第九中学日新班高三(下)期中数学试卷(含答案).docx
- 2025-2026学年云南省昆明市官渡区星耀学校高三(下)期中数学试卷(含答案).docx
- 2025-2026学年辽宁省葫芦岛市实验高级中学高三(下)期中数学试卷(含答案).docx
- 2025-2026学年浙江省杭州市八县区高三(上)期末数学试卷(含答案).docx
- 2025-2026学年陕西省西安市某校高三(下)期中数学试卷(含答案).docx
- 2025-2026学年河北省沧州十校高三(上)期末数学试卷(含答案).docx
- 《休克新理念》课件.pptx
最近下载
- 高一数学人教A版必修第一册第一章《集合》训练卷(含解析).pdf VIP
- 消防泵拆除与安装施工方案的安全与质量控制.docx VIP
- 泓格新产品:ET-7002多功能模块.pdf VIP
- 7到24月龄婴幼儿喂养指南实用要点.pdf
- ITTC国际船舶技术委员会 计算流体力学 7.5–03 CFD 7.5-03-02 Resistance and Flow 7.5-03-02-04 Practical Guidelines for Ship Resistance CFD 技术指南.pdf
- 2025年中国中小企业融资需求与渠道分析报告.pdf VIP
- 泓格发布新品CAN总线转单模光纤网桥I-2533CS-60.pdf VIP
- 泓格新产品:Profibus远程4-ch模拟电流_电压输出模块.pdf VIP
- Behringer百灵达 CX2310 快速指南.pdf
- 2026年公益诉讼检察岗遴选试题及答案.docx
原创力文档

文档评论(0)