- 0
- 0
- 约2.58千字
- 约 3页
- 2018-05-08 发布于河南
- 举报
JS中浮点小数运算精度丧失问题
//针对js中浮点儿计算中加法、减法以及取余数失去精度问题 add by chengang006 at 2011-10-01
/*
* 由于很多时候都会设计到浮点小数的算法,
* 在JS 中只用普通的parseFlost之类的进信封数据类型转换会使数据失去精度
* 因此采用先转整数再计算的方式
* */
//浮点数相加
function dcmAdd(arg1,arg2){
var r1,r2,m;
try{r1=arg1.toString().split(.)[1].length;}catch(e){r1=0;}
try{r2=arg2.toString().split(.)[1].length;}catch(e){r2=0;}
m=Math.pow(10,Math.max(r1,r2));
return (accMul(arg1,m)+accMul(arg2,m))/m;
}
//浮点数相减 add by chengang006 on 2011-10-01
/*
* 说明同上面的加法
* */
function dcmSub(arg1,arg2){
return dcmAdd(arg1,-arg2);
}
//浮点数取余数 --add by chengang006 on 2011-10-02
/*
原创力文档

文档评论(0)