IEEE的舍入规.docVIP

IEEE的舍入规则 (2007-01-30 13:48:06) 转载 汇报上来一个anoamly,说做四舍五入的时候22.5会近似成22但是23.5会近似成24QA觉得这是一个BUG,因为里面对同一个四舍五入采用了两套计算方式.第一反应就是可能四舍五入的算法是自己写的,因为老美再闲也不会去做这种挫事.研究了下发现凡是整数位是偶数的,小数位为0.5的都会被降下来round down,但是整数位为奇数的,小数位为0.5的都会升上去round up.当时就去检查c++写的源代码,发现匈牙利命名法果然害人,可追踪性明显不行,只能写report给鬼子说搞不定.第二天鬼子说这是by design的,根据IEEE规则的,然后就兴匆匆的去和Martin讲,心里想的是,总算这个PTR不关我事了.没想到聪明如老马,居然不晓得IEEE是啥,无语,石化3秒钟后解释未果,继续研究尝试去IEEE.org寻找标准答案,发现不是业内人士,没有account,办事受阻,许多资料都不给看.想申请个帐号还要交美元,罢了,就弄点中英文野鸡资料看看了.最后找到答案:目前采用的舍入规则遵循IEEE标准754的第4节,最贴近我们生活的就是那些Math.Round()函数,需要提供两个参数,一Double型的value,一Int型的精度范围在(0-15).此函数的返回值为精度等于digits