- 0
- 0
- 约1.06万字
- 约 90页
- 2019-06-05 发布于广东
- 举报
有效数字的运算 加、减法:诸量相加(相减)时,其 和(差)数在小数点后所应保留的位 数与诸数中小数点后位数最少的一个 相同。 4.178 + 21.3 25.478 = 25.5 乘、除法:诸量相乘(除)后其积(商) 所保留的有效数字,只须与诸因子中有效 数字最少的一个相同。 4.178 × 10.1 4178 4178 421978=42.2 乘方开方: 有效数字与其底的有效数 字相同。 对数函数: 运算后的尾数位数与真数 位数相同。 例:lg1.938 = 0.2973 lg1938 = 3 + lg1.938 = 3.2973 指数函数:运算后的有效数字的位数与指数的小数点后的位数相同(包括紧接小数点后的零)。 例: 106.25 = 1.8 × 106 100.0035 = 1.008 三角函数:取位随角度有效数字而定。 例:Sin30°00′= 0.5000 Cos20°16′= 0.9381 正确数不适用有效数字的运算规则。 取常数与测量值的有效数字的位数相同。 有效数字尾数的舍入规则 数值修约规则(按国家标准文件:GB8170-87) 在进行具体的数字运算前,按照一定的规则确定一致的位数,然后舍去某些数字后面多余的尾数的过程被称为数字修约,指导数字修约的具体规则被称为数字修约规则。 口诀: 4舍6入5看右,5后有数进上去, 尾数为0向左看,左数奇进偶舍弃。 有效数字尾数的舍入规则 例:将下列数字全部修约为四位有效数字 1)尾数≤4,11.118 2)尾数≥6,11.119 3)尾数=5, a)5右面还有不为0的数 11.119 11.119 b) 5右面尾数为0则凑偶 11.118 11.118 一次性修约到指定的位数,不可以进行数次修约,否则得到的结果也有可能是错误的。 例:将数字10.2749945001修约为四位有效数字。 一步到位:10.2749945001——10.27(正确)。 错误结果: 10.2749945001——10.274995—— 10.275——10.28 有效数字尾数的舍入规则 作图法可形象、直观地显示出物理量之间的函数关系,也可用来求某些物理参数,因此它是一种重要的数据处理方法。作图时要先整理出数据表格,并要用坐标纸作图。 1.选择合适的坐标分度值,确定坐标纸的大小 坐标分度值的选取应能基本反映测量值的准确度或精密度。根据表1数据U 轴可选1mm对应于0.10 V,I 轴可选1mm对应于0.20 mA,并可定坐标纸的大小(略大于坐标范围、数据范围) 约为130 mm×130 m。 表1:伏安法测电阻实验数据 作图法处理实验数据步骤 例3: 2.标明坐标轴: 用粗实线画坐标轴,用箭头标轴方向,标坐标轴的名称或符号、单位,再按顺序标出坐标轴整分格上的量值。 I (mA) U (V) 8.00 4.00 20.00 16.00 12.00 18.00 14.00 10.00 6.00 2.00 0 2.00 4.00 6.00 8.00 10.00 1.00 3.00 5.00 7.00 9.00 4. 连成图线: 用直尺、曲线板等把点连成直线、光滑曲线。一般不强求直线或曲线通过每个实验点,应使图线线正穿过实验点时可以在 两边的实验点与图线最为接近且分布大体均匀。图点处断开。 3.标实验点: 实验点可用“ ”、 “ ”、“ ”等符号标出(同一坐标系下不同曲线用不同的符号)。 5.标出图线特征: 在图上空白位置标明实验条件或从图上得出的某些参数。如利用所绘直线可给出被测电阻R大小:从所绘直线上读取两点 A、B 的坐标就可求出 R 值。 I (mA) U (V) 8.00 4.00 20.00 16.00 12.00 18.00 14.00 10.00 6.00 2.00 0
原创力文档

文档评论(0)