有效数字和数值的修约及极限数值的表示8888.pptVIP

有效数字和数值的修约及极限数值的表示  习题: 1、将5.0851修约为十分位的“0.1”个单位的修约的数是多少？ 2、将234575按”百位数“的0.5单位的修约，该修约数是多少？ 3、将234575按50间隔的修约，该修约数是多少？ 1、方法1） 修约为十分位的0.1单位的数，也就是说所修约的数，应保留两位小数（百分位）。即将5.0851修约为3位有效数字，第3位小数5被修约的对象，看5后面是否有数，有数1，5舍除则进1，因此，所修约的数为5.09。 方法2） 3、按50间隔修约，则原数所修约的数有两个：一个是234550（去掉25），另一个是234600（增加25），那么这两个数取那个数？ 将这两个数分别除以50，那么得到两个整数倍的数，即：4691（奇数倍）和4692（偶数倍），则取偶数倍的那个数。 故：所修约的数为234600。 三 带有极限偏差值的数值 a） 基本数值A带有绝对极限上偏差值+b1和绝对极限下偏差值－b2，指从A－b2到A+b1符合要求，记为 注：当b1= b2=b时， 可记为A±b。 例： mm，指从79mm到82mm符合要求。 b）基本数值A带有相对极限上偏差值+b1%和相对极限下偏差值－b2%，指实测值或计算值R对于A的相对偏差值］［（R－A）/A］从－b2%到+b1%符合要求，记为：