JS中浮点小数运算精度丧失问题.docVIP

  • 0
  • 0
  • 约2.58千字
  • 约 3页
  • 2018-05-08 发布于河南
  • 举报
JS中浮点小数运算精度丧失问题

//针对js中浮点儿计算中加法、减法以及取余数失去精度问题 add by chengang006 at 2011-10-01 /* * 由于很多时候都会设计到浮点小数的算法, * 在JS 中只用普通的parseFlost之类的进信封数据类型转换会使数据失去精度 * 因此采用先转整数再计算的方式 * */ //浮点数相加 function dcmAdd(arg1,arg2){ var r1,r2,m; try{r1=arg1.toString().split(.)[1].length;}catch(e){r1=0;} try{r2=arg2.toString().split(.)[1].length;}catch(e){r2=0;} m=Math.pow(10,Math.max(r1,r2)); return (accMul(arg1,m)+accMul(arg2,m))/m; } //浮点数相减 add by chengang006 on 2011-10-01 /* * 说明同上面的加法 * */ function dcmSub(arg1,arg2){ return dcmAdd(arg1,-arg2); } //浮点数取余数 --add by chengang006 on 2011-10-02 /*

文档评论(0)

1亿VIP精品文档

相关文档