- 64
- 0
- 约1.24千字
- 约 9页
- 2020-12-13 发布于北京
- 举报
有效数字的保留及修约
主讲:袁超
2
概念
有效数字的位数可反映试验的精度或表示所用试验仪表的精度, 我们把通过直读获得的准确数字叫做可靠数字;把通过估读得到的那部分数字叫做存疑数字。
有效数字的保留及修约
3
3.12mm
1.2865g
1.23ml
可靠数字
存疑数字
有效数字的读取
有效数字的保留及修约
4
有效数字是指在一个数中,从该数的第一个非零数字起,直到末尾数字止的数字称为有效数字,数据中小数点的位置不影响有效数字的位数。
例如:
数字
有效位数
1.23
3位
0.0123
3位
12.03
4位
12.30
4位
数字0是否是有效数字,取决于它在数据中的位置。
一般第一个非0数字前的数字都不是有效数字;
而第一个非0数后的数字都是有效数字。
有效数字的运算
有效数字的保留及修约
加、减运算
乘、除运算
乘方、开方运算
11.96
10.2
+ 0.003
—————
22.163
小数点后有2位
小数点后有1位
小数点后有3位
修约后
小数点后有1位
22.2
12.6
9.81
× 0.050
————
6.1803
有效数字3位
有效数字3位
有效数字2位
修约后
有效数字2位
6.2
有效数字2位
有效数字3位
概念
有效数字的保留及修约
6
ln6.84=1.
您可能关注的文档
- 财务信息审计 审计实施阶段、审计终结阶段 任务七 审计实施阶段和终结阶段.pptx
- 财务信息审计 实收资本的审计要点、实收资本的审计目标 任务二十二 实收资本审计.pptx
- 财务信息审计 应交税费的审计目标、应交税费的审计程序 、应交税费的审计要点 任务十九 税费审计.pptx
- 财务信息审计 职工薪酬的审计目标、职工薪酬的审计要点 任务十八 职工薪酬审计.pptx
- 采购管理实务 采购的原则 项目一 采购管理概述-1.1.4采购的原则.ppt
- 餐饮食品安全 任务二 建立餐饮业HACCP体系 HACCP原理三.ppt
- 仓储与配送管理 第四节 配送异常处理、第五章 组织配送作业并处理异常 配送异常处理.pptx
- 草图大师 初识草图大师 《SketchUp应用》 工作界面.ppt
- 测绘CAD AutoCAD软件的安装与工作界面认识 AutoCAD软件的安装与工作界面认识.pptx
- 测绘地理信息行业职业培训包 软件应用 5、 编辑图形对象.ppt
最近下载
- 国家数据局数据标注优秀案例集(2025年).pdf VIP
- 行测终极蒙题技巧与速算方法指南(2026冲刺版).pdf VIP
- 2026年车间统计核算试题及答案.doc VIP
- (毕业论文)基于PHP个人网站的设计与实现.pdf VIP
- 周星驰电影西游降魔篇剧本.doc VIP
- ldpc简介ldpc的bp译码算法各参数对ldpc码性能的影响.pdf VIP
- TCECS 1530-2024 轨道交通工程InSAR形变监测标准.pdf VIP
- 2024年新课标高考化学试卷(适用云南、河南、新疆、山西地区 真题+答案).docx VIP
- 北京建筑 图集19BJ9-2 室外工程—路、台、坡、棚.docx VIP
- 《毛概教学资料》毛概课后思考题答案.docx VIP
原创力文档

文档评论(0)