当前位置： 移动技术网 > IT编程>开发语言>JavaScript > js精准计算

js精准计算

2020年03月17日  | 移动技术网IT编程  | 我要评论

新疆地税网上申报,大贝尔桥,我行我速6.0

目录

js精准计算

var numa = 0.1; 
var numb = 0.2; 
alert( numa + numb );

0.1 + 0.2 = 0.30000000000000004。
计算精度误差问题（和二进制相关）。

对于浮点数的四则运算，几乎所有的编程语言都会有类似精度误差的问题，只不过在 c++/c#/java 这些语言中已经封装好了方法来避免精度的问题，而 javascript 是一门弱类型的语言，从设计思想上就没有对浮点数有个严格的数据类型，所以精度误差的问题就显得格外突出。
我们先把 0.1 和 0.2 转换成二进制看看：
0.1 => 0.0001 1001 1001 1001…（无限循环）
0.2 => 0.0011 0011 0011 0011…（无限循环）
双精度浮点数的小数部分最多支持 52 位，所以两者相加之后得到这么一串 0.0100110011001100110011001100110011001100110011001100 因浮点数小数位的限制而截断的二进制数字，这时候，我们再把它转换为十进制，就成了 0.30000000000000004。
如何解决呢？

首先将数乘以10的幂次方去掉小数位得到可以转化二进制的整数，计算之后再还原。

/** 
 ** 除法函数，用来得到精确的除法结果
 ** 说明：javascript的除法结果会有误差，在两个浮点数相除的时候会比较明显。这个函数返回较为精确的除法结果。
 ** 调用：accdiv(arg1,arg2)
 ** 返回值：arg1除以arg2的精确结果
 **/
function accdiv(arg1, arg2) {
    var t1 = 0, t2 = 0, r1, r2;
    try {
        t1 = arg1.tostring().split(".")[1].length;
    }
    catch (e) {
    }
    try {
        t2 = arg2.tostring().split(".")[1].length;
    }
    catch (e) {
    }
    with (math) {
        r1 = number(arg1.tostring().replace(".", ""));
        r2 = number(arg2.tostring().replace(".", ""));
        return (r1 / r2) * math.pow(10, t2 - t1);
    }
}

/**
 ** 加法函数，用来得到精确的加法结果
 ** 说明：javascript的加法结果会有误差，在两个浮点数相加的时候会比较明显。这个函数返回较为精确的加法结果。
 ** 调用：accadd(arg1,arg2)
 ** 返回值：arg1加上arg2的精确结果
 **/

function accadd(arg1, arg2) {
    var r1, r2, m, c;
    try {
        r1 = arg1.tostring().split(".")[1].length;
    }
    catch (e) {
        r1 = 0;
    }
    try {
        r2 = arg2.tostring().split(".")[1].length;
    }
    catch (e) {
        r2 = 0;
    }
    c = math.abs(r1 - r2);
    m = math.pow(10, math.max(r1, r2));
    if (c > 0) {
        var cm = math.pow(10, c);
        if (r1 > r2) {
            arg1 = number(arg1.tostring().replace(".", ""));
            arg2 = number(arg2.tostring().replace(".", "")) * cm;
        } else {
            arg1 = number(arg1.tostring().replace(".", "")) * cm;
            arg2 = number(arg2.tostring().replace(".", ""));
        }
    } else {
        arg1 = number(arg1.tostring().replace(".", ""));
        arg2 = number(arg2.tostring().replace(".", ""));
    }
    return (arg1 + arg2) / m;
}

/**
 ** 乘法函数，用来得到精确的乘法结果
 ** 说明：javascript的乘法结果会有误差，在两个浮点数相乘的时候会比较明显。这个函数返回较为精确的乘法结果。
 ** 调用：accmul(arg1,arg2)
 ** 返回值：arg1乘以 arg2的精确结果
 **/
function accmul(arg1, arg2) {
    var m = 0, s1 = arg1.tostring(), s2 = arg2.tostring();
    try {
        m += s1.split(".")[1].length;
    }
    catch (e) {
    }
    try {
        m += s2.split(".")[1].length;
    }
    catch (e) {
    }
    return number(s1.replace(".", "")) * number(s2.replace(".", "")) / math.pow(10, m);
}

您可能感兴趣的文章:

如对本文有疑问，请在下面进行留言讨论，广大热心网友会与你互动！！ 点击进行留言回复

相关文章:

验证码：
最近更新的文章
大家感兴趣的文章
移动技术网