js數字計算丟失精度問題解決方案

浠ラ箍發布于2019-08-23 17:21 / 1741人閱讀

摘要：計算機世界里，數字的計算，所有語言都會丟失精度，所以沒有萬全之策，但在人力范圍內，盡量解決。

計算機世界里，數字的計算，所有語言都會丟失精度，所以沒有萬全之策，但在人力范圍內，盡量解決。

網上找了一部分代碼，發現是有問題的，比如:

//加法 
Number.prototype.myAdd = function(arg2) {
    var arg1 = this;
    if (isNaN(arg2)) {
        return arg2;
    }
    var r1, r2, m;
    try { r1 = arg1.toString().split(".")[1].length } catch (e) { r1 = 0 }
    try { r2 = arg2.toString().split(".")[1].length } catch (e) { r2 = 0 }
    m = Math.pow(10, Math.max(r1, r2))
    return (arg1 * m + arg2 * m) / m
}
//減法 
Number.prototype.mySub = function(arg2) {
    var arg1 = this;
    if (isNaN(arg2)) {
        return arg2;
    }
    var r1, r2, m, n;
    try { r1 = arg1.toString().split(".")[1].length } catch (e) { r1 = 0 }
    try { r2 = arg2.toString().split(".")[1].length } catch (e) { r2 = 0 }
    m = Math.pow(10, Math.max(r1, r2));
    n = (r1 >= r2) ? r1 : r2;
    return ((arg1 * m - arg2 * m) / m).toFixed(n);
}
//乘法 
Number.prototype.myMul = function(arg2) {
    var arg1 = this;
    if (isNaN(arg2)) {
        return arg2;
    }
    var m = 0,
        s1 = arg1.toString(),
        s2 = arg2.toString();
    try { m += s1.split(".")[1].length } catch (e) {}
    try { m += s2.split(".")[1].length } catch (e) {}
    return Number(s1.replace(".", "")) * Number(s2.replace(".", "")) / Math.pow(10, m)
}

// 除法
Number.prototype.myDiv = function(arg2) {
    var arg1 = this;
    if (isNaN(arg2)) {
        return arg2;
    }
    var t1 = 0,
        t2 = 0,
        r1, r2;
    try { t1 = arg1.toString().split(".")[1].length } catch (e) {}
    try { t2 = arg2.toString().split(".")[1].length } catch (e) {}
    with(Math) {
        r1 = Number(arg1.toString().replace(".", ""))
        r2 = Number(arg2.toString().replace(".", ""))
        return (r1 / r2).myMul(pow(10, t2 - t1))
    }
}

在計算一些特殊的數字時，仍然有問題：
比如加法：

268.34.myDiv(0.83);//321.7505995203837

所以還要優化

我重新做了一版：

var operationNumber = function (arg1,arg2,operator) {
    var oper=["+","-","*","/"];
    // 不合法的運算
    if (isNaN(arg1)||isNaN(arg2)||oper.indexOf(operator)<0) {
        return NaN;
    }
    // 除以0
    if (operator==="/"&&Number(arg2)===0) {
        return Infinity;
    }
    // 和0相乘
    if (operator==="*"&&Number(arg2)===0) {
        return 0;
    }
    // 相等兩個數字相減
    if ((arg1===arg2||Number(arg1)===Number(arg2))&&operator==="-") {
        return 0;
    }
    var r1, r2, max,_r1,_r2;
    try { r1 = arg1.toString().split(".")[1].length } catch (e) { r1 = 0 }
    try { r2 = arg2.toString().split(".")[1].length } catch (e) { r2 = 0 }
    max = Math.max(r1, r2)
    _r1 = max-r1;
    _r2 = max-r2;
    if (_r1!==0) {
        arg1=arg1+"0".repeat(_r1)
    }
    if (_r2!==0) {
        arg2=arg2+"0".repeat(_r2)
    }
    arg1 = Number(arg1.toString().replace(".",""))
    arg2 = Number(arg2.toString().replace(".",""))
    var r3 = operator==="*"?(max*2):(operator==="/"?0:max);
    var newNum = eval(arg1+operator+arg2);

    if (r3!==0) {
        var nStr = newNum.toString();
        nStr = nStr.replace(/^-/,"");
        if (nStr.length
如果你發現了bug，評論區及時反饋，我及時跟進修復

GPU云服務器云服務器 js 數據精度丟失丟失精度精度丟失 js計算高精度數據

文章版權歸作者所有，未經允許請勿轉載,若此文章存在違規行為，您可以聯系管理員刪除。

轉載請注明本文地址：http://specialneedsforspecialkids.com/yun/104224.html

從一個 bug 看 javascript 的精度丟失的問題

摘要：就像一些無理數不能有限表示，如圓周率，等。遵循規范，采用雙精度存儲，占用。參考中不會失去精度的最大值數字精度丟失的一些典型問題問題描述后端返回 { spaceObject: { objectId: 1049564069045993472 } } 前端模版，使用的是 atpl 模版前端獲取 objectId 的方式，const objectId = $(#test).da...

NusterCache 2019-08-23 12:19 評論0 收藏0
[ JS 基礎 ] JS 浮點數四則運算精度丟失問題 (3)

摘要：基于這個問題運動基礎問題，我想應該也有一部分人沒有認真對待過中浮點數的四則運算出現的問題。解決方案引自解決方案為了解決浮點數運算不準確的問題，在運算前我們把參加運算的數先升級的的次方到整數，等運算完后再降級的的次方。基于這個問題：javascript運動基礎問題，我想應該也有一部分人沒有認真對待過js中浮點數的四則運算出現的問題。 1.問題描述示例代碼： var x ...

hoohack 2019-08-21 10:27 評論0 收藏0
由parseInt 引發的問題---想到浮點運算精度丟失---看透js number 的 encod

摘要：如題先陳述下問題背景偶爾測測自己寫的計算器，隨便輸入玩嘛，然后發生下面詭異的事情當我從一個輸入到十個的時候，過程顯示都是正確的，像這樣繼續輸入一個的時候，然后就這個樣子了什么原因呢看了下自己的代碼，代碼重要部分長這樣的這里用了一下強制轉化為如題先陳述下問題背景偶爾測測自己寫的計算器，隨便輸入玩嘛，然后發生下面詭異的事情：當我從一個 1 輸入到十個 1 的時候，過程顯示都是正確的...

hightopo 2019-08-22 14:52 評論0 收藏0
JavaScript 精度丟失問題

摘要：排除直接使用的數太大或太小超出范圍，出現這種問題的情況基本是浮點數的小數部分在轉成二進制時丟失了精度，所以我們可以將小數部分也轉換成整數后再計算。 // 1. 兩數相加 // 0.1 + 0.2 = 0.30000000000000004 // 0.7 + 0.1 = 0.7999999999999999 // 0.2 + 0.4 = 0.6000000000000001 // 2.2...

iOS122 2019-08-22 10:45 評論0 收藏0
JavaScript 基礎知識 - 入門篇(一)

摘要：如圖意義位用來表示符號位位用來表示指數位表示尾數浮點數，比如無限循環無限循環此時只能模仿十進制進行四舍五入了，但是二進制只有和兩個，于是變為舍入。這即是計算機中部分浮點數運算時出現誤差，丟失精度的根本原因。 showImg(http://ww1.sinaimg.cn/large/9c47d583gy1fmtw1ma9g4j21hc0u0ach.jpg); 前言最近一直有小伙伴跟我說J...

sarva 2019-08-21 17:58 評論0 收藏0