- 4
- 0
- 约4.47千字
- 约 27页
- 2016-12-28 发布于北京
- 举报
* 第二讲 $1.3 计算过程中的误差及其控制 $2.1 二分法 Evaluation only. Created with Aspose.Slides for .NET 3.5 Client Profile 5.2.0.0. Copyright 2004-2011 Aspose Pty Ltd. 由上面的讨论可以看出,为了求得满意的计算解,在选 用计算公式和设计算法时,都应注意如下普遍原则: (1) 防止大数吃小数 主要由计算机的位数引起 选用算法应遵循的原则 计算机中数的计算特点: 加法先对阶,后运算,再舍入。 乘法先运算,再舍入。 不在计算机数系中的数做四舍五入处理。 Evaluation only. Created with Aspose.Slides for .NET 3.5 Client Profile 5.2.0.0. Copyright 2004-2011 Aspose Pty Ltd. 作一个有效数字为4位的连加运算 而如果将小数放在前面计算 在作连加时,为防止大数吃小数,应从小到大进行相加, 如此,精度将得到适当改善。当然也可采取别的方法。 例 Evaluation only. Created with Aspose.Slides for .NET 3.5 Client Profile 5.2.0.0. Copyright 2004-2011 Aspose
原创力文档

文档评论(0)