误差和有效数字解剖.pptVIP

试验设计与数据处理 材料科学与工程学院 误差与有效数字 误差的定义 误差传递 例1：计算某长方体体积。知其长、宽、高分别为20.20mm、10.40mm、5.00mm，如测试所用的刻度尺最小刻度为0.1mm，求该长方体体积的最大误差。 误差传递 例2：测量水泥密度。质量m用感量为0.1g的天平称量，体积V用感量为0.1cm3的比重瓶测量，如m=59.30g，V=19.73，求水泥的密度及最大相对误差和最大绝对误差。 第二章 有效数字 定义：观测值中有意义的数字。 有效数字的修约 有效数字的运算 在科学实验中，为了得到准确的测量结果，不仅要准确地测定各种数据，而是还要正确地记录和计算。分析结果的数值不仅表示试样中被测成分含量的多少，而且还反映了测定的准确程度。 所以，记录实验数据和计算结果应保留几位数字是一件很重要的事，不能随便增加或减少位数。例如用重量法测定硅酸盐中的SiO2时，若称取试样重为0.4538克，经过一系列处理后，灼烧得到SiO2沉淀重0.1374克，则其百分含量为： SiO2 % =(0.1374/0.4538)×100%＝30.277655354% 上述分析结果共有11位数字，从运算来讲，并无错误，但实际上用这样多位数的数字来表示上述分析结果是错误的，它没有反映客观事实，因为所用的分析方法和测量仪器不可能准确到这种程度。 那么在分析实验中记