测量数据处理.pptVIP

  • 0
  • 0
  • 约1.7万字
  • 约 120页
  • 2026-01-13 发布于陕西
  • 举报

******************“1”间隔修约“0.5”单位修约指修约间隔为指定数位的0.5单位,即修约到指定数位的0.5单位。“0.2”单位修约指修约间隔为指定数位的0.2单位,即修约到指定数位的0.2单位。(2)进舍规则2.1.拟舍去的最左一位数字小于5时,则舍去,保留的各位数字不变;例1:将12.1498修约成2位有效位数,得12;将2:将12.1498修约到小数点后一位,得12.1;2.2.拟舍去数字的最左一位数字大于5时,或是5,而其后跟有并非全部为0的数字时,则进1,即保留的末位数字加1;例1:将1268修约到“百”位数,得13×102(特定时可写成1300);特定时—指修约间隔或有数位数明确时例2:将1268修约成3位有效位数,得127×10;例3:将10.502修约到个位数,得11。2.3.拟舍去数字的最左一位数字为5,而右面无数字或均为0时,若所保留的末位数字为奇数(1,3,5,7,9)则进一,为偶数(2,4,6,8,0)则舍去。例1:修约间隔为0.1(或10-1)时拟修约值修约值1.0501.01.3501.4例2:修约间隔为1000(或103)拟修约值修约值25002×103(特定时可写为2000)35004×103(特定时可写为4000)例3:将下列数字修约成两位有效位数拟修约值修约值0.03250.0323250032×103(特定时可写为32000)2.4.负数修约时,先将它的绝对值按前述的规定进行修约,然后在所得值前面加上负号.例3:将下列数字修约到十数位拟修约值修约值-355-36×10(特定时可写为-360)(4)不得连续修约:拟修约的数字在确定修约位数后一次修约获得结果,不得多次连续修约。例1:修约15.4546,修约间隔1,结果为15。错误:15.4546→15.45515.46→15.5→16例2:将213.499修约成3位有效数时,结果应为213。错误:213.499→213.50→2144.1、“0.2”单位修约规则“0.2”单位修约是指按指定修约间隔对拟修约的数值0.2单位进行的修约。修约方法:将拟修约数值X乘以5,按指定修约间隔对5X依规定修约,所得数值再除以5。例:将下列数字修约到个数位的0.2单位(或修约间隔为0.2)例1:60.3660.36×5=301.8按1间隔修约为302/5=60.4例2:60.2960.29×5=301.45按1间隔修约为301/5=60.2例3:60.3060.30×5=301.5按1间隔修约为302/5=60.4例:将下列数字修约到“百”数位的0.2单位(或修约间隔为20)例1:830830×5=4150按100间隔修约为4200/5为840例2:842842×5=4210按100间隔修约为4200/5为840例3:-930-930×5=-4650,按100间隔修约为-4600/5=-9204.2、“0.5”单位修约规则“0.5”单位修约是指按指定修约间隔对拟修约的数值0.5单位进行的修约。修约方法:将拟修约数值X乘以2,按指定修约间隔对2X依规定修约,所得数值再除以2。例:将下列数字修约到个数位位的0.5单位修约。例1:60.2560.25×2=120.50→120→120/2=60.0例2:60.3860.38×2=120.76→121→120/2=60.5例:将下列数字修约到“百”数位的0.5单位(或修约间隔为50)例:930930×2=1860,按100间隔修约为1900/2=9503、近似数运算又称数字运算,如对测量结果进行加、减、乘、除、开方、乘方、三角函数运算等。运算时必须注意有效数字。(1)近似数的加减运算:近似数的加减,以小数点后位数最少的为准,其余各数均修约成比该数多一位,计算结果的小数位数与最少的位数相同。例:28.1+14.54+3.0007≈28.1+14.54+3.00(比“28.1”的位数多一位进行修

文档评论(0)

1亿VIP精品文档

相关文档