有效数字修约管理程序.docVIP

1目的 制订本标准的目的是建立有效数字的修约及运算规范，保证实验数据的运算处 理准确、可靠。 2范围 本标准适用于检验工作中除生物检定统计法以外的各种测量或计算而得的数值的处理。 3责任 QC主管、检验员对本标准的实施负责。 4内容 4.1有效数字的基本概念 4.1.1有效数字系指在检验工作中所能得到有实际意义的数值。其最后一位数字欠准是允许的，这种由可靠数字和最后一位不确定数字组成的数值，即为有效数字。最后一位数字的欠准程度通常只能是上下差1单位。 4.1.2 有效数字的定位:是指确定欠准数字的位置。这个位置确定后，其后面的数字均为无效数字。欠准数字的位置可以是十进位的任何位数，用10n来表示，n可以是正整数，如n=1、101＝10, n=2、102=100，……；n也可以是负数，如n=-1、10-1=0.1，……。 4.2 有效位数 4.2.1 在没有小数位且以若干个零结尾的数值中，有效位数系指从非零数字最左一位向右数得到的位数减去无效零（即仅为定位用的零）的个数。例如35000中若有两个无效零，则为三位有效位数，应写作350×102；若有三个无效零，则为两位有效位数，应写作35×103。 4.2.2 在其它十进位数中，有效数字系指从非零数字最左一位向右数而得到的位数。例如3.2、0.32、0.032和0.0032均为两位有效位数，0.0320为三位有效位数、10.00为四位有效位数，12.490为五位有效位数。 4.2.3 非连续型数值（如个数、分数、倍数、名义浓度或标示量）是没有欠准数字的，其有效位数可视为无限多位；常数π、e和系数（根号2）等数值的有效位数也可视为是无限多位。例如分子式H2SO4”中的2”和4”是个数，含量测定项下“每1ml的××××滴定液（0.1mol／L）”中的1”为个数，“0.1”为名义浓度，其有效位数均为无限多位；规格项下的“0.3g”或“lml:25mg”中的“0.3”、“1”和“25”的有效位数也均为无限多位。即在计算中，其有效位数应根据其它数值的最少有效位数而定。 4.2.4 pH值等对数值，其有效位数是由其小数点后的位数决定的，其整数部分只表明其真数的乘方次数。pH＝11.26（[H+]＝5.5×10-12mo1／L），其有效位数只有两位。 4.3数值修约及其进舍规则 4.3.1数值修约是指对拟修约数值中超出需要保留位数时的舍弃，根据舍弃数来保留最后一位数或最后几位数。 4.3.2修约间隔是确定修约保留位数的一种方式。修约间隔的数值一经确定，修约值即应为该数值的整数倍。例如指定修约间隔为0.1，修约值即应在0.1的整数倍中选取，也就是说，将数值修约到小数点后一位。 4.3.3确定修约位数的表达方式： 指定数位： 4.3.3.1.1指定修约间隔为10-n（n为正整数），或指明将数值修约到小数点后n位。 4.3.3.1.2 指定修约间隔为1，或指明将数值修约到个数位。 4.3.3.1.3 指定修约间隔为10n （n为正整数），或指明将数值修约到10n数位，或指明将数值修约到“十”、“百”、“千”、……数位。 4.3.3.1.4指定将数值修约成n位有效位数（n为正整数）。 4.3.3.2进舍规则 4.3.3.2.1 拟舍弃数字的最左一位数字小于5时，则舍去，即保留的各位数字不变。 例1. 将12.1498修约到一位小数，得12.1。 例2. 将12.1498修约成两位有效位数，得12。 4.3.3.2.2拟舍弃数字的最左一位数字大于5，或者是5，而其后跟有并非全部为0的数字时，则进一。即在保留的末位数字加1。 例1. 将1268修约到百数位，得13×102。 例2. 将1268修约到三位有效位数，得127×10。 例3. 将10.502修约到个数位，得11。 4.3.3.2.3拟舍弃数字的最左一位数字为5，而右面无数字或皆为0时，若所保留的未位数为奇数（1，3，5，7，9）则进一，为偶数（2，4，6，8， 0）则舍弃。 例1. 修约间隔为0.1（或10-1）时，1. 050修约为1.0，0.350修约为0.4。 例2. 修约间隔为1000（或103）时，2500修约为2×103，3500修约为4×103。 例3. 将下列数字修约成两位有效位数： 0.03250修约为032，32500修约为32×103。 4.3.3.2.4不许连续修约，拟修约数字应在确定修约位数后一次修约获得结果，而不得多次按前面规则连续修约。 4.3.3.2.5为便于记忆，上述进舍规则可归纳成下列口诀： 四舍六入五考虑 五后非零则进一 五后全零看五前 五前偶舍奇