* * 数值修约规则与极限数值的表示和判定 GB/T8170-2008 二0一0年七月 * PPT课件 数值修约规则-----------基于GB/T8170-2008 术语和定义 数值修约规则 近似数运算 极限数值的判定方法与修约 * PPT课件 一、术语和定义 1、数值修约:通过省略原数值的最后若干位数字,调整所保留的末位数字,使最后所得到的值最接近原数值的过程。 注:经数值修约后的数值称为(原数值的)修约值。 * PPT课件 2、有效数字: 若测量结果经修约后的数值,其修约误差绝对值≤0.5(末位),则该数值称为有效数字,即从左起第一个非零的数字到最末一位数字止的所有数字都是有效数字。(有效数字中只应保留一位欠准数字,因此在记录测量数据时,只有最后一位有效数字是欠准数字。) 3、有效位数: 对没有小数位且以若干个0结尾的数值,从非0数字最左一位向右数得到的位数减去无效0(即仅为定位用的0); 对其他十进位数,从非0数字最左一位向右数而得到的位数,就是有效位数。 * PPT课件 例1:35000,若有两个无效0,则为三位有效位数,应写为350×102;若有三个无效0,则为二位有效位数,应写为35×103。 例2: 0.0025---2位有效位数; 1.001000---7位有效位数; 2.8×107---2位有效位数; (对于a×1
原创力文档

文档评论(0)