航海数值计算.pptxVIP

  • 7
  • 0
  • 约4.29千字
  • 约 26页
  • 2023-11-27 发布于湖北
  • 举报
航海学附篇 球面三角与 船位误差理论基础 第一章航海数值计算 有效数字与凑整 · 为了取得准确的分析结果 , 不仅要准确 测量 , 而且还要正确记录与计算 。所谓 正确记录是指记录数字的位数 。 因为数 字的位数不仅表示数字的大小 , 也反映 测量的准确程度 。所谓有效数字 , 就是 实际能测得的数字。 0.00125 3位有效数字 8.205 4位有效数字 23.450 5位有效数字 4500 有效数字位数不定(2、3、4) 科学计数法: 4.5×103 2位有效数字 4.500×103 4 位有效数字 1 、数据的有效位数 一个近似数据的有效位数是该数中有效数字 的个数 , 指从该数左方第一个非零数字算起 到最末一个数字(包括零) 的个数 , 它不取 决于小数点的位置。 2 、数字凑整规则(四舍六入五成双) 由于数字的取舍而引起的误差称为“凑整误差 ”或 “取舍误差 ”。为避免取舍误差的迅速积累而影响 测量成果的精度 , 在计算中通常采用如下的凑整规 则: (1) 若拟舍去的第一位数字是0至4中的数 , 则被 保留的末位数不变; (2) 若拟舍去的第一位数字是6至9中的数 , 则被 保留的末位数加1; (3) 若拟舍去的第一位数字是5, ①其右边有非零 数字 , 则被保留的末位数加1; ②其右边没有数字或 所有的数字皆为0, 则被保留的末位数是奇数时就 加1, 是偶数时就

文档评论(0)

1亿VIP精品文档

相关文档