- 18
- 0
- 约1.27千字
- 约 2页
- 2020-09-13 发布于河北
- 举报
检测分析结果的数据处理与修约
一.有效数字
一个数的有效数字包括该数中所有的肯定数字再加上最后一位可疑的数字。具体来说,有效数字就是实际上能测到的数字。例如,用万分之一天平秤量最多可精确到0.1mg,称得的质量,如以克为单位,应正确记录到小数点后四位。
二.数字修约规则
数字修约采用“四舍六入五单双”的原则,即在所拟舍去的数字中,其最左面的第一个数字小于、等于4时舍去,等于、大于6时进一;所拟舍去的数字中,其最左面的第一个数字等于5时,若其后面的数字并非全部为“0”时,则进1,若5后的数字全部为“0”就看5的前一位数,是奇数的则进位是偶数的则舍去(“0”以偶数论)。
三.计算规则
几个数据相加或相减时,计算结果的绝对误差应与各数中绝对误差最大者相等,它们的和或差只能保留一位不确定数字,即有效数字的保留应以小数点后位数最少的数字为根据。
在乘除法中,计算所得结果的相对误差必须与各测量数值中相对误差最大者相近,因此有效数字的保留应根据这一原则进行判断。一般说来,以有效数字位数最少的数为标准,弃去其他数的过多的位数,然后进行乘、除。在计算过程中,可以暂时多保留一位数字,得到最后结果时,再弃去多余的尾数。
四.分析结果的有效数字的保留
1.结果≥10% 保留4位有效数字
2.结果在1%~10%之间保留3位有效数字
3.
您可能关注的文档
最近下载
- 中央广播电视总台公开招聘笔试真题(完整版+详细答案解析).docx VIP
- 《数据结构》历年考研真题及解答.pdf VIP
- 八上物理期末试卷及习题与讲解.pdf VIP
- 专题12 一般过去时 50题(含答案解析)--2025年中考英语语法填空专项分类练习.docx VIP
- EU 2015_863 RoHS 新增邻苯四项指令 中文版(完整译文 + 逐条合规解读).docx VIP
- GB/T 25338.1-2019_铁路道岔转辙机 第1部分:通用技术条件.pdf
- DB61_T 2040-2025 地理标志证明商标 吴堡青梨.docx VIP
- 2026年消毒技术题库附答案(完整版).docx VIP
- DB13∕T 6241-2025 城市道路地下病害体探测技术规程.pdf VIP
- 经营例会汇报材料-大数据事业部.pptx VIP
原创力文档

文档评论(0)