- 45
- 0
- 约7.13千字
- 约 48页
- 2017-08-24 发布于浙江
- 举报
2.2.3 测量结果的处理步骤(续) 【例2.3】 对某电压进行了16次等精度测量,测量数据中已记入修正值,列于表中。要求给出包括误差在内的测量结果表达式。 2.2.3 测量结果的处理步骤(续) 2.2.3 测量结果的处理步骤(续) 2.3 测量数据处理 2.3.1 有效数字的处理 1. 数字修约规则 数据修约规则: (1) 小于5舍去——末位不变。 (2) 大于5进1——在末位增1。 (3) 等于5时,取偶数——当末位是偶数,末位不变;末位是奇数,在末位增1(将末位凑为偶数)。 2.3.1有效数字的处理(续) 例:将下列数据舍入到小数第二位。 12.3344→12.33 62.73501→62.74 0.69499→0.69 25.3250→25.32 17.6955→17.70 122.1150→122.12 需要注意的是,舍入应一次到位,不能逐位舍入。 上例中0.69499,正确结果为0.69 ,错误做法是: 0.69499→0.6950→0.695→0.70。 在“等于5”的舍入处理上,采用取偶数规则,是为了在比较多的数据舍入处理中,使产生正负误差的概率近似相等。 2.3.1有效数字的处理(续) 2. 有效数字 若截取得到的近似数其截取或舍入误差的绝对值不超过近似数末位的半个单位,则该近似数从左边第
您可能关注的文档
- 第二章 药物分析基础.doc
- 第二章 误差与分析数据的处理.ppt
- 第二章 误差与测量不确定度.doc
- 第二章 误差分布与精度指标.ppt
- 第二章 误差处理.ppt
- 第二章,分析化学中的误差和数据处理.ppt
- 第二章-尺寸公差与圆柱结合的互换性.ppt
- 第二章.第二节定性分析概述.ppt
- 第二章_误差和分析数据的处理.doc
- 第二章、财务管理的两项.ppt
- 50万吨汽油调和技改项目环评报告书.pdf
- 河北省文安县第一中学2025-2026学年高一上学期10月月考英语试题(解析版).docx
- 河南省TOP二十校205—2026学年高一上学期10月联考生物试题(原卷版).docx
- 河南省安阳市第一中学、鹤壁市高中、新乡市第一中学三校2025-2026学年高一上学期第一次联考数学试题(解析版).docx
- 河南省部分高中2025-2026学年高一上学期第二次月考数学试卷(解析版).docx
- 河南省百师联盟2025-2026学年高二10月联考数学试题(北师大版)(解析版).docx
- 河南省部分学校2025-2026学年高一上学期期中考试数学试题(解析版).docx
- 河南省部分重点中学2025~2026学年高二上学期10月末质量检测数学试题(解析版).docx
- 河南省部分重点中学2025-2026学年高二上学期10月末质量检测英语试题(解析版).docx
- 桥梁伸缩缝安装工艺(可编辑).pptx
原创力文档

文档评论(0)