有效数字修约和运算规则的再思考.docVIP

  1. 1、本文档共7页,可阅读全部内容。
  2. 2、原创力文档(book118)网站文档一经付费(服务费),不意味着购买了该文档的版权,仅供个人/单位学习、研究之用,不得用于商业用途,未经授权,严禁复制、发行、汇编、翻译或者网络传播等,侵权必究。
  3. 3、本站所有内容均由合作方或网友上传,本站不对文档的完整性、权威性及其观点立场正确性做任何保证或承诺!文档内容仅供研究参考,付费前请自行鉴别。如您付费,意味着您自己接受本站规则且自行承担风险,本站不退款、不进行额外附加服务;查看《如何避免下载的几个坑》。如果您已付费下载过本站文档,您可以点击 这里二次下载
  4. 4、如文档侵犯商业秘密、侵犯著作权、侵犯人身权等,请点击“版权申诉”(推荐),也可以打举报电话:400-050-0827(电话支持时间:9:00-18:30)。
  5. 5、该文档为VIP文档,如果想要下载,成为VIP会员后,下载免费。
  6. 6、成为VIP后,下载本文档将扣除1次下载权益。下载后,不支持退款、换文档。如有疑问请联系我们
  7. 7、成为VIP后,您将拥有八大权益,权益包括:VIP文档下载权益、阅读免打扰、文档格式转换、高级专利检索、专属身份标志、高级客服、多端互通、版权登记。
  8. 8、VIP文档为合作方或网友上传,每下载1次, 网站将根据用户上传文档的质量评分、类型等,对文档贡献者给予高额补贴、流量扶持。如果你也想贡献VIP文档。上传文档
查看更多
有效数字修约和运算规则的再思考.doc

有效数字修约和运算的再思考 吕荣禛 (华南理工大学化学与化工学院,广州,510640) 摘要:本文对经常遇到的数据记录和处理中的有效数字问题进行了有意义的探讨。针对当前普遍采用的“四舍六入五成双”修约规则,提出了用“四舍五入恰五成双”新名称来表达更为合理的观点。在对数和三角函数的运算中,建议根据误差理论来判定有效数字的位数,而不是认为氢离子浓度的有效数字与其pH值的有效数字位数一定相等。然后讨论了先修约后计算和先计算最后修约对最终计算结果的影响。在计算机/计算器普及的今天,本文提倡先计算最后修约,这样不仅简化了许多繁琐的修约步骤,而且也可以保证数据的准确性,并且极大地提高了工作效率。 关键词:有效数字;四舍五入恰五成双;修约规则;运算规则 在科学与工程的研究过程中常常要涉及大量的原始数据以及数据处理和运算。这些数据的准确性关系到整个实验的精度。正确的进行有效数字的记录取舍和运算是每个科学工作者必须要具备的基本能力。用来表示量的多少,同时反映测量准确度的各数字称为有效数字。实验中在记录计算时应以测量可能达到的精度为依据来确定有效数字的位数和取舍。一般而言,在记录测量值时必须记录全部准确数字和一位不确定数字且只能记录一位不确定数字(可疑数字或估读数字)[1,2]。如在最小刻度 --------------------------------------- 作者简介:吕荣禛,1987年生,女,研究生,主要从事自组装单分子膜诱导晶体生长方面的研究 值为0.1 mL的滴定管中读得数据3.87 mL,3和8是准确数字,而7是可疑数字。数字7虽不是准确数值却也客观反映物理量的大小,必须保留。这样3.87 mL的有效数字位数就为3位。只要涉及到测量及与测量有关的计算都会涉及到有效数字的取舍问题。现在,直接使用第一手测量数据的机会较少[3],大部分的数据都是要经过计算来提交最终的计算结果。因此,在计算过程中有效数字的取舍就显得尤为重要。修约规则 “四舍五入法”是我们过去所熟悉的修约规则。它深深地印在我们的脑海里,只要一遇到有效数字计算的问题,马上就会想到“四舍五入法”。可是,在工程技术和科学实验中,经常要对大量的数据进行统计分析。如果仍用“四舍五入法”,就不够精确[4]。我国在新的关于数值修约的国标GB/T 8170-2008 中就说明了新的取舍规则:拟舍去数字最左一位小于5时则舍去,保留其余数字不变;拟舍去数字最左一位大于5时则进一;拟舍去数字最左一位为5时,其后有非0数字时进一;拟舍去数字最左一位为5,其后没有数字或者数字均为0时,其所保留的末位数字为奇数时则进一,为偶数时则舍去[5]。这个被称为“四舍六入五成双”的修约规则。 从国标GB/T 8170-2008的介绍上看,新的修约规则看上去非常复杂,有很多种不同的条件,容易让人困惑。但是实际上与原来的“四舍五入”的规则差别并不大,只是在“恰5”(exactly one-half a unit)这个点做了更为细致的划分。 图 “四舍五入”与“四舍六入五成双” 从图1看,将小于5的数字舍去和将大于5的数字进位如1.465001保留3位有效数字修约为1.47。拟舍去数字最左一位为5,其后没有数字或者数字均为0为恰5数字恰5如果将5数字进位,就成了“四舍五入”规则。而“四舍六入五成双”的修约规则将“5”的情况分成两种:5前面的数字为偶数则舍去,5前面的数字为奇数则进一。例如,1.465000保留3位有效数字则舍“5”修约为1.46,1.475000保留3位有效数字则进“一”修约为1.48。 从统计学的角度来说,“四舍六入五成双”的修约规则更科学[6]。传统的“四舍五入法”逢5就进一,会使得计算结果偏大。而根据现行的修约规则,5数字有进有舍,使得修约结果更加接近真实值。这样的修改是的,但是“四舍六入五成双”名称却容易使人误解1.465001修约为1.46。我们认为如果用“四舍五入恰五成双”表达则将更理。5成双,非恰5数字时这样直接通过“四舍五入恰五成双”名称就可以清楚的知道这个修约规则用的条件对于“四舍六入五成双”这个规则,乔成立等[7]认为对于恰5数字情况使用奇进偶舍的方法还是不够科学。他们提出:有偶数个这样的数据,就舍和进各占一半,这样关于舍和进产生的误差可相互抵消;如果有奇数个“恰5”数据,就按奇数少一个的偶数个数舍进各半。但是在实际的测量和运算过程中,即使同为“恰5”数字,它们对整体的贡献也往往差别,简单地通过数学均分来考虑进或舍的情况不能解决问题。 取对数的运算中,只有尾数的部分代表有效数字,首数只代表该数的多少次方[8]。一般教科书上讲,因为氢离子浓度为两位有效数字,其pH值也为两位数字例如,[H+]=5.2(10-11,有效数字的位数是2位(5和2),则其对数运算pH= -lg

文档评论(0)

caijie1982 + 关注
实名认证
文档贡献者

该用户很懒,什么也没介绍

1亿VIP精品文档

相关文档