(数值修约规则与极限数值的表示和判定.pptVIP

4、有效数字的运算规则 乘方、开方运算 例如, 6.54 =? 进行数值乘方或开方时, 结果有效数字位数不变。 6.54 =42.8 2 2 Evaluation only. Created with Aspose.Slides for .NET 3.5 Client Profile 5.2.0.0. Copyright 2004-2011 Aspose Pty Ltd. 5、几点注意 0.03865×9.4×1.327 = ？ 0.39×9.4×1.3=4.8 Evaluation only. Created with Aspose.Slides for .NET 3.5 Client Profile 5.2.0.0. Copyright 2004-2011 Aspose Pty Ltd. 5、几点注意 1、计算公式中的常数如 、 等都是正确数，在运算中可以根据需要截取其有效位数 2、首位数字为8、9的数字，其有效数字可比实际的位数多一位，如8749可认为其为5为有效数字，923可认为其为4位有效数字 3、为减少数字的舍入误差，对参与运算的各有效数字进行修约时，可比实际需要多保留一位 Evaluation only. Created with Aspose.Sli