- 7
- 0
- 约4.29千字
- 约 26页
- 2023-11-27 发布于湖北
- 举报
航海学附篇
球面三角与
船位误差理论基础
第一章航海数值计算
有效数字与凑整
· 为了取得准确的分析结果 , 不仅要准确
测量 , 而且还要正确记录与计算 。所谓 正确记录是指记录数字的位数 。 因为数 字的位数不仅表示数字的大小 , 也反映 测量的准确程度 。所谓有效数字 , 就是 实际能测得的数字。
0.00125
3位有效数字
8.205
4位有效数字
23.450
5位有效数字
4500
有效数字位数不定(2、3、4)
科学计数法:
4.5×103
2位有效数字
4.500×103
4 位有效数字
1 、数据的有效位数
一个近似数据的有效位数是该数中有效数字 的个数 , 指从该数左方第一个非零数字算起 到最末一个数字(包括零) 的个数 , 它不取 决于小数点的位置。
2 、数字凑整规则(四舍六入五成双)
由于数字的取舍而引起的误差称为“凑整误差 ”或
“取舍误差 ”。为避免取舍误差的迅速积累而影响 测量成果的精度 , 在计算中通常采用如下的凑整规 则:
(1) 若拟舍去的第一位数字是0至4中的数 , 则被
保留的末位数不变;
(2) 若拟舍去的第一位数字是6至9中的数 , 则被
保留的末位数加1;
(3) 若拟舍去的第一位数字是5, ①其右边有非零
数字 , 则被保留的末位数加1; ②其右边没有数字或 所有的数字皆为0, 则被保留的末位数是奇数时就
加1, 是偶数时就
原创力文档

文档评论(0)