浅析有效数字科学处理.docVIP

  1. 1、原创力文档(book118)网站文档一经付费(服务费),不意味着购买了该文档的版权,仅供个人/单位学习、研究之用,不得用于商业用途,未经授权,严禁复制、发行、汇编、翻译或者网络传播等,侵权必究。。
  2. 2、本站所有内容均由合作方或网友上传,本站不对文档的完整性、权威性及其观点立场正确性做任何保证或承诺!文档内容仅供研究参考,付费前请自行鉴别。如您付费,意味着您自己接受本站规则且自行承担风险,本站不退款、不进行额外附加服务;查看《如何避免下载的几个坑》。如果您已付费下载过本站文档,您可以点击 这里二次下载
  3. 3、如文档侵犯商业秘密、侵犯著作权、侵犯人身权等,请点击“版权申诉”(推荐),也可以打举报电话:400-050-0827(电话支持时间:9:00-18:30)。
  4. 4、该文档为VIP文档,如果想要下载,成为VIP会员后,下载免费。
  5. 5、成为VIP后,下载本文档将扣除1次下载权益。下载后,不支持退款、换文档。如有疑问请联系我们
  6. 6、成为VIP后,您将拥有八大权益,权益包括:VIP文档下载权益、阅读免打扰、文档格式转换、高级专利检索、专属身份标志、高级客服、多端互通、版权登记。
  7. 7、VIP文档为合作方或网友上传,每下载1次, 网站将根据用户上传文档的质量评分、类型等,对文档贡献者给予高额补贴、流量扶持。如果你也想贡献VIP文档。上传文档
查看更多
浅析有效数字科学处理

浅析有效数字的科学处理           江苏省金坛市第一中学(213200) 王成  在平时的物理实验教学中,实验数据处理时,经常遇到学生问有效数字位数的取舍问题。在大大小小考试中,也经常会有涉及到有效数字的考题。对于中学物理教学,有些教师认为实验数据的读取和处理要求并不是太高,或者自己本身就不太注意有效位数的数据处理,就容易忽视对实验数据处理的有效数字问题的教学。 一般有效数字的位数与测量的精密度有着密切的关系。处理数据时,有时各数据间位数多少差异很大,方法得当可以简化运算,否则不仅计算麻烦,而且还可能引进新的误差。所以有效数字问题,也是实验数据处理的问题,对此应有一个明确的认识。下面笔者根据自己的教学体验,谈一谈实验教学中数据处理的一点体会。 一、数据舍入规则 通常的四舍五入法,总是入的机会大于舍的机会。由于数据的舍入也是一种均匀分布,所以在处理数据时,为了使尾数的舍入机会均等,可采用的舍入规则是:“小于五则舍,大于五则入,等于五时则把尾数凑成偶数”。 例如:将下列数据保留到小数点后三位,舍入前后的数据如下: 原始数据 3.14159、8.43349、2.7875、7.3685 舍入后的数据 3.142、 8.433、 2.788、 7.368 这样处理给数据带来的误差,称为舍入误差。舍入误差不会超过末位数0.5,故0.5为舍入时的极限误差。 二、有效数字与仪器读数 一个数据,从左边的非零数字起至右边含有误差的一位止,中间的所有数字均为有效数字。一般而言,仪器上显示的数字均为有效数字,都应读出(包括最后一位估读数字)。例如,用一最小分度为mm的米尺,测得一物体的长度为7.62cm。其中7.6是准确读出来的,最后一位“2”是估读的,有估读误差,是可疑的。但它还是近视地反映了被测量物在这一位的大小,故仍应算有效数字。若最后一位读数为“0”,也应算作有效数字,不能随便去掉。 在记录数据时,由于选择了不同的单位,也会出现一些“0”,如将7.62cm写作76200um,其中由单位换算而出现的“0”,不能认为是有效数字。为避免混淆,在物理实验中常用一种标准式(也叫科学表达式)的写法,这种写法规定任何数据都只写有效数字(小数点前只取一位不为零的数),而数量级则用“10”的方幂表示。如7.62cm可写成7.62×104um。用科学表达式表示结果,既简单明了又可解决有效数字和误差位数在表达式上的矛盾 对于一定的测量对象而言,有效数字位数的多少,实质上反映了所有仪器的精密程度,如测一长度L用米尺、游标卡尺、螺旋测微器分别测得结果如下: 用米尺 L=2.34cm 三位有效数字 用游标卡尺 L=2.340cm 四位有效数字 用螺旋测微器 L=2.3404cm 五位有效数字 三、测量数据的计算问题 与有效数字末位有误差的特点相适应,物理学规定偶然误差的有效数字一般只取一位,只有当误差的首位为“1”时方取两位。一般实验各项数据记录下来后,还有按照一定的规律进行运算,如用单摆测重力加速度的实验中,我们需要测量摆长L,单摆小球的直径D,单摆周期性摆动30次或50次的时间,这几个数据的测量精确度不一定相同,另外还涉及常数的位数选取问题。一般规定,如果实验后还未估算误差,则有效数字的运算应按下述规则进行: 1、加减运算 由于加减运算后的总误差等于参与运算各量误差之和,故其总误差必大于各量值中任何一个误差。所以加减运算后有效数字的末位,可估算为参与运算的各数值中末位数数位最高者相同。例如下列几位数据进行加法计算 126.7+35.05+76.123+0.16 其数字计算后的实际结果为238.124,但考虑误差效应,我们根据上述计算法则,取其结果应为:238.1 2、乘除运算 按误差的算术乘除公式,乘除结果的相对误差等于各参与运算值相对误差的和,所以乘除运算后结果的相对误差应大于各数中任何一个相对误差。一般说来有效数字位数越少,其相对误差越大,故乘除运算后的有效数字位数,可估计为与各数中位数最少的相同。例如,测得某电阻的阻值为20.5欧姆,通过该电阻的电流值为5.348安培,则该电阻两端的电压为: U=IR=20.5×5.348=109.63(V) 按上述规则取其结果应为:110V 3、有多个数参加运算时,为了防止数据运算中多次取舍“引进”误差,运算中可多保留一位数字用小写数字记在有效数字后面,此数据称为安全数字。一般在运算最后再将多保留的一位按舍入规则取舍。如8.24,有些数字只有三位,小数码“4”为安全数字。 但对于算术平均值多保留的一位是否取舍,要根据其偶然误差的大小来定,即按有效数字末位与误差所在的一位取齐的规定来决定。 4、常数和系数的有效数字 在运算过程中,对于在公式中出

文档评论(0)

sy78219 + 关注
实名认证
文档贡献者

该用户很懒,什么也没介绍

1亿VIP精品文档

相关文档