第六节 等精度测量实验数据处理 在测量中,对测量结果的表示方法有多种,常用的有数字表示法,方程表示法,图形表示法等。本节主要讨论数字表示。用数字表示法的数据处理过程中。除注意有效数字取舍外,应对1随机误差进行统计处理,注意2消弱系统误差和3剔除粗差。 有效数字的处理 精度测量数据处理步骤 有效数字的处理 有效数字: 任何测量都带有误差,只能用近似值表示被测量的真值。若近似值的误差限是某一位的半个单位。该位到第一位非零数字共有n位,就说该值有n位有效数字。 有效数字决定了数字的误差限,有效数字越多,误差限越小。 例: 测得重力常数g,若以 为单位 它们都有三位有效数字。 按照定义,第一种写法的误差限: 第二种写法为: 而相对误差限都是: 数字舍入规则 测量数字要将多余数字舍弃,通常四舍五入。 普通四舍五入缺点: 入的可能性 舍的可能性,导致所得数据误差不能自行抵消。 补充原则 : 被舍弃的数字为5时: 末位是奇数时进一; 末位是偶数时则不变。 例:3.14159—3.142; 4.51050—4.510(舍弃,首位5后为0,且有效 末位是偶); 6.37750—6.378(进一,有效末位是奇) 有效数字的计算 1)记录测量数据只保留一位可疑数字; 可疑数字表示该位上有 个单位或下一位有 个单位的误差; 2)确定了有效数字位数后,其余按舍入规则取舍; 3)第一位有效数字大于等于8,有效数字位数多一位,如9.18可认为四位有效数字; 4)加减运算结果按照小数点后位数最少的取; 5)乘除运算结果按有效位数最少的位数; 6)计算平均值,位数多取一位,以保证残差至少能得到二位数字,不至使平均值和误差的值受到歪曲; 7)用来表示误差限的有效数字最多取两位,通常只取一位,同时将测量结果的小数点后位置与误差对齐 。 例:60.4+2.02+0.222+0.0467=62.6887—— 62.69,这里按照原数字直接计算后按照60.4来取舍。 例:0.0121按照0.0121X25.64=0.310244,取三位有效数字为0.310。 例: 例:某一试验最后测量结果Y=980.113824,若结果的误差限(置信度0.95)分别为: (1)ΔY=0.004536; (2)ΔY=0.005834. 结果的有效数字取几位?并写出最后结果。 解:(1)ΔY取两位;ΔY=0.0045因为ΔY0.0050 ,Y可取6位有效数字,Y=980.11。 最后结果多取两位安全位数与标准误差对齐,表为: Y=980.1138+0.0045 (2) ΔY取两位,ΔY=0.0058 因为ΔY0.0050,这样Y应该少取一位,取5位有效数字,Y=980.11,这样ΔY0.050 , 最后结果多取三位安全数与标准误差对齐,表为: Y=980.1138+0.0058 微小误差准则 凡可忽略的误差称为微小误差。任何误差最多取两位有效数字,若某一误差忽略后,不改变它们舍入后的数值,就可认为是微小误差。 已定系统误差微小准则: 代数和法合成的误差,当小误差与总误差之比不大于 1/20 时,则该小误差即为微小误差。 标准差微小准则:方和根法合成的误差,当小误差不大于总误差的 1/3 时,则该小误差为微小误差。 精度测量数据处理步骤 根据随机误差的统计处理方法及判断系统误差,粗大误差存在准则,我们可将等精度直接测量的结果用算术平均值来表示。现把处理步骤归纳如下: 将测量结果按先后顺序列出表格; 求出算术平均值 : 算出相应的残差: 算出 值,并用下式计算标准误差 剔除坏值,采用拉依达准则,格拉布斯准则或t检验准则,如有坏值,剔除后再从第(2)步计算。 采用马利科夫准则可阿贝-赫梅特准则判断。如存在不可忽略的变值系差,则测量结果不能使用,待查明原因后,消除变值系统误差后重新测量。 求出 的标准误差: 由测量次数n和确定的置信概率 查t分布表,得置信系数 ,并写出置信限 不加注时表明 。 写出测量结果最后表达式 例:设对某电炉进行12次等精度测量,要求对该数据进行处理(手工处理)。 将测量结果列成表格; 求平均值,结果 多取一位数字: 列出各残差Vi之值; 在表中Xi旁列出Vi的值,并求
您可能关注的文档
- 第三章管理原理与方法解析.ppt
- 第三章管路孔口和管嘴的水力计算解析.ppt
- 第三章恒定电场解析.ppt
- 第三章化学平衡1解析.ppt
- 第三章回归预测法解析.ppt
- 第三章回收再生的前期处理解析.ppt
- 第三章机构运动简图及平面机构自由度解析.ppt
- 第三章建筑排水解析.ppt
- 第三章精密磨削加工解析.ppt
- 第三章精神活性物质所致精神障碍解析.ppt
- 《病理生理学》(人卫第8版)试卷及答案.docx
- 2025年云计算服务行业五年市场规模分析报告.docx
- 手术室护士理论模拟试卷及答案.docx
- 2025年水电站主变压器油样采集与检测试卷及答案.docx
- 2025_2026学年新教材高中地理第二章资源安全与国家安全第三节中国的耕地资源与粮食安全课时评价含解析新人教版选择性必修第三册.doc
- 2025年全国网络安全知识竞赛试卷及答案.docx
- 2025年电力电网-国家电网职称-电网中级(电力系统及其自动化)历年参考试卷及答案.docx
- 初中英语八年级下册Unit10情感表达与建议主题单元复习课教学设计.docx
- 六年级英语小升初语音与字母系统专项复习.docx
- UnitLet’scelebrate!TheRealFatherChristmas课件外研版高中英语().pptx
最近下载
- 压力容器(储气罐)安全操作规程.doc VIP
- 平面广告设计 印刷广告的特点和视觉特征 029-印刷广告的特点.pptx VIP
- 七大类营养素.ppt VIP
- NBT 10185-2019并网光伏电站用关键设备性能检测与质量评估技术规范.pdf VIP
- 中石化机泵维修钳工高级复习试题及答案.doc
- 华为员工手册 华为员工手册.pdf VIP
- 2026福建水投集团漳州市龙溪水务有限公司第二批招聘5人笔试参考题库附答案解析.docx VIP
- 流域生态水文过程与生态修复机理--咨询工程师继续教育.docx VIP
- 巧用优秀短视频,开启初中道德与法治教育新样态.docx VIP
- 培智生活语文教案·四年级下册完整教案人民教育出版社.pdf VIP
原创力文档

文档评论(0)