有效数字和数值的修约及其运算综述.pptx

1.有效数字的其本概念 1.1、有效数字系指在检验工作中所能得到有实际意义的数值。其最后一位数字欠准是允许的(欠准程度只能是上下差1单位),这种由可靠数字和最后一位不确定数字组成的数值,即为有效数字。 1.2、有效数字的定位(数位),是指确定欠准数字的位置。这个位置确定后,其后面的数字均为无效数字。欠准数字的位置可以是十进位的任何位数,用10n来表示:n可以是正整数,也可以是负数。 1.3、有效位数 1.3.1、在没有小数位且以若干个零结尾的数值中,有效位数系指从非零数字最左一位向右数得到的位数减去无效零(即仅为定位用的零)的个数。例如35000中若有两个无效零,则为三位有效位数,应写作350×102或3.50×104;若有三个无效零,则为两位有效数,应写作35×103或3.5×104。 1.3.2非连续型数值(如个数、分数、倍数、名义浓度或标示量)是没有欠准数字的,其有效位数可视为无限多位。例如分子式“H2S04”中的“2”和“4”是个数;常数π、e和系数 等数值的有效位数也可视为是无限多位;含量测定项下“每1ml的XXXX滴定液(0.1mol/L)”中的“0.1”为名义浓度,规格项下的“0.3g”或“1ml”、“25mg”中的“0.3”、“1”和“25”为标示量,其有效位数也均为无限多位。即在计算中,其有效位数应根据其他数值的最少有效位数而定。 1.4、pH值等对数值

文档评论(0)

1亿VIP精品文档

相关文档