有效数字及其运算规则.pptVIP

有效数字及计算规则 一. 有效数字 有效数字: 是在分析工作中实际测量到的数字,除最后一位是可疑的外,其余的数字都是确定的。它一方面反映了数量的大小,同时也反映了测量的精密程度。 例如, 用分析天平称NaCl1.2007g,可能 有±0.0001g的误差;用台秤称1.20g,可能 有±0.01g的误差。 注意: 数字0可以是测量得到的有效数 字,但当0只用来定位时,就不能是有效 数字,并且有效数字的位数与小数点的 位置无关。 例如： 1.2007g (五位） 0.0012007g（五位） 物体质量 有效数字位数 使用仪器 16.5g 3 台天平 16.651g 5 普通摇摆天平 16.6514g 6 分析天平 三. 数字修约 各测量值有效数字位数可能不同,因 此计算前要先对各测量值进行修约。 应保留的有效数字位数确定之后,其 余尾数一律舍弃的过程称为修约。 修约应一次到位,不得连续多次修约。 修约规则:为四舍六入五成双（尾留双），被修约≤4，舍弃，被修约数≥6则进位，若是5将有两种情况：前面是奇数则进位为偶数，若前面是偶数则舍弃，若5后面还有不为0的数，则不管前面数字奇偶一律进位。 例如,将下列数据修约为两位有效数字 四. 有效数字的计算规则 (1) 加减法；以 小数点后位数最少的为准先修约后加减，结果位数也按点后位数最少的算。 例如, 0.0121+12.56+7.8432 可先修约后计算,即 0.01+12.56+7.84=20.41 (2) 乘除法；结果保留位数应与 有效数字位数最少者相同。 例如, (0.0142×24.43×305.84)/28.67 可先修约后计算, (0.0142×24.4×306)/28.7=3.69。 (3) 乘方或开方；, 结果有 效数字位数不变。 例如, 6.542=42.8 (4) 对数计算；对数尾数的位数应 与真数的有效数字位数相同。 例如： (5) 表示分析结果的精密度和准确度 时, 误差和偏差等只取一位或两 位有效数字。 例如：E=0.123%表示为：0.1%或0.12% (6) 计算中涉及到常数 以及非测量 值,如自然数、分数时,不考虑其有 效数字的位数,视为准确数值。 (7) 为提高计算的准确性, 在计算过程 中可暂时多保留一位有效数字, 计 算完后再修约.运用电子计算器运 算时, 要对其运算结果进行修约, 保 留适当的位数,不可将显示的全部 数字作为结果。 (8) 若数据进行乘除运算时, 第一位数 字大于或等于8, 其有效数字位数可 多算一位。 如9.46可看做是四位有效数字. * 二、有效数字位数的确定 1.关于“0”的有效问题 ①.当“0”在数字中间或末尾时有效 如： 、 、 等中的0均有效。 注意：不能在数字的末尾随便加“0”或减“0” 数学上： 物理上： ②.小数点前面的“0”和紧接小数点后面的“0”不算作有效数字 如：0.0123dm、0.123cm、0.00123m 均是3位有效数字。 注意：进行单位换算时，有效数字的位数不变。 3.有效数字与仪器的关系 有效数字的位数 测量值本身的大小、仪器的准确度 20分度游标卡尺 L=2.525cm （四位有效数字） 螺旋测微计 L=2.5153cm （五位有效数字） 米尺 L=2.52cm （三位有效数字）