有效数字修约和运算规则的再思考.docVIP

  • 29
  • 0
  • 约6.88万字
  • 约 7页
  • 2016-12-23 发布于贵州
  • 举报

 有效数字修约和运算规则的再思考.doc

有效数字修约和运算法则的再思考 吕荣禛 (华南理工大学化学与化工学院,广州五山,510640) 摘要:本文对经常遇到的数据记录和处理中的有效数字问题进行了有意义的探讨。针对当前普遍采用的“四舍六入五成双”修约规则,提出了用“四舍五入恰五成双”新名称来表达更为合理和便于记忆的观点。在对数和三角函数的运算中,建议根据误差理论来判定有效数字的位数,而不是按照现流行教科书的观点认为氢离子浓度的有效数字与其pH值的有效数字位数一定相等。然后讨论了先修约后计算和先计算最后修约对最终计算结果的影响。在计算机/计算器普及的今天,本文提倡先计算最后修约,这样不仅简化了许多繁琐的修约步骤,而且也可以保证数据的准确性,并且极大地提高了工作效率。 关键词:有效数字;四舍五入恰五成双;修约规则;运算规则 在科学与工程的研究过程中常常要涉及记录大量的原始数据以及进行数据处理和运算。这些数据的准确性关系到整个实验的精度。正确的进行有效数字的记录﹑取舍和运算是每个科学工作者必须要具备的基本能力。用来表示量的多少,同时反映测量准确度的各数字称为有效数字。实验中在记录和计算时应以测量可能达到的精度为依据来确定有效数字的位数和取舍。一般而言,在记录测量值时必须记录全部准确数字和一位不确定数字且只能记录一位不确定数字(可疑数字或估读数字)[1,2]。如在最小刻度 ------------------------

文档评论(0)

1亿VIP精品文档

相关文档