数据处理-有效数字及其运算规则.ppt

任务三 数据处理 有效数字及其运算规则 授课教师：刘深勇 食品工程分院 基 础 化 学 教学内容 （一）有效数字 1、有效数字的分类 2、有效数字的意义 3.有效数字的位数 （二）运算规则 1、有效数字的修约规则 2、有效数字计算规则 1、有效数字的分类 实验过程中常遇到的两类数字：准确数字和实验测得到的数据 1、有效数字：指实验能测量到的数字，包括所有准确数字和最后一位可疑的数字 如：读取滴定管的读数为21.18mL （一）有效数字 （一） 有效数字 2、有效数字的意义：数据的位数与测定准确度有关。 　　记录的数字不仅表示数量的大小，而且要正确地反映测量的精确程度。 比如：0.51800，0.5180，0.518所代表的精确程度一样吗？ a. 用万分之一分析天平：10.2345g 实验数据的准确性与分析测试仪器的测量精度有关： 同一试样采用不同测量精度的仪器测量，所得数据的有效数 字位数不同，其中有效数字位数多的测量更精确。 准确数字 可疑数字 都是有效数字 准确数字 可疑数字 b. 用精度为±0.01g的天平：10.23g 如称量某一试样的质量 6位 4位 若干位准确数字 末位可疑数字 + 有效数字 = （1）记录测量值时必须且只能保留一位不确定的数字 （2）非零数字都是有效数字 （3）非零数字前的0不是有效数字： 0.00268 3位 非零数字之间的0是有效数字： 0.20068 5位 对小数，非零数字后的0是有效数字：0.26800 5位 （4）数字后的0含义不清楚时,最好用指数形式表示： 如整数末位或末几位的0含义不明： 26800 ？ 2.68×104 3位；2.680×104 4位；2.6800×104 5位 （5）常数π、e及倍数、分数的有效数字位数可认为没有限制 （6）首位数字大于等于8, 可多计一位有效数字：95.2% 4位 （7）对数的有效数字位数以小数部分计： pH = 10.28 2位 3、有效数字位数的确定 4．改变单位，不改变有效数字的位数 如： 24.01mL 24.01?10－3 L 5．其他 （1）容量器皿；滴定管；移液管；容量瓶；4位有效数字 （2）分析天平（万分之一）取小数点后4位表示 （3）标准溶液的浓度，用小数点后4位表示: 0.1000 mol/L 有效数字位数 数字 2.06 0.3100 0.0205 0.03080 3800 2.30 ×104 pH= 10.25 有效数字位数 3 4 3 4 不确定 3 2 课堂练习 练习 0.1000 20.78% 0.0526 3.59×10-6 0.02 1×103 100 1000 答案：4位、3位、1位、位数不确定 （二）有效数字的运算规则 1．修约规则 各测量值的有效数字位数确定之后，就要将它后面多余的数字舍弃。舍弃多余数字的过程，叫做“数字修约”；所遵循的规则称为“数字修约规则” (GB8170-1987) 。 口诀：四要舍，六要入，五后有数要进位，五后无数（包括零）看前方，前方奇数就进位，前方偶数全舍光。 四舍六入五成双 修约后末位数为偶数 将下列数据修约为四位有效数字 2.4374 2.4376 2.4365 2.4375 2.43651 2.437 2.438 2.436 2.438 2.437 练习 10.1 有效数字 一次修约到位，禁止分次修约 4.146 4.1 4.15 4.2 × 注意 2位 （1）加减运算: 以各项中绝对误差最大的数为准，和或差只保留一位可疑数字，即与小数点后位数最少的数取得一致。 28.5 10.03 0.712 + 4.1316 43.3736 ? 28.5 10.0 0.7 + 4.1 43.3 先修约，后计算 ± 0.1 ± 0.01 ± 0.001 ± 0.0001 2．运算规则 每个数据的最后一位都存在±1的绝对误差 （2）乘除法: 以相对误差最大的数为准，积或商只保留一位可 疑数字，即按有效数字位数最少的数进行修约和计算。 解：三个数的最后一位都存在±1的绝对误差，相对误差各为： (±1／31816) × 100％ = ±0.003％ 计算：0.0235 × 20.03 ÷3.