摘要:基于這個問題運動基礎問題,我想應該也有一部分人沒有認真對待過中浮點數的四則運算出現的問題。解決方案引自解決方案為了解決浮點數運算不準確的問題,在運算前我們把參加運算的數先升級的的次方到整數,等運算完后再降級的的次方。
基于這個問題:javascript運動基礎問題 ,我想應該也有一部分人沒有認真對待過js中浮點數的四則運算出現的問題。
1.問題描述</>復制代碼
示例代碼:
var x = 0.3 - 0.2; //30美分減去20美分
var y = 0.2 - 0.1; //20美分減去10美分
x == y; // =>false,兩值不相等
x == 0.1; // =>false,真實值為:0.09999999999999998
y == 0.1; // =>true
這個問題并不只是在Javascript中才會出現,任何使用二進制浮點數的編程語言都會有這個問題,只不過在 C++/C#/Java 這些語言中已經封裝好了方法來避免精度的問題,而 JavaScript 是一門弱類型的語言,從設計思想上就沒有對浮點數有個嚴格的數據類型,所以精度誤差的問題就顯得格外突出。
2.產生原因
Javascript采用了IEEE-745浮點數表示法(幾乎所有的編程語言都采用),這是一種二進制表示法,可以精確地表示分數,比如1/2,1/8,1/1024。遺憾的是,我們常用的分數(特別是在金融的計算方面)都是十進制分數1/10,1/100等。二進制浮點數表示法并不能精確的表示類似0.1這樣 的簡單的數字,上訴代碼的中的x和y的值非常接近最終的正確值,這種計算結果可以勝任大多數的計算任務:這個問題也只有在比較兩個值是否相等時才會出現。
javascript的未來版本或許會支持十進制數字類型以避免這些舍入問題,在這之前,你更愿意使用大整數進行重要的金融計算,例如,要使用整數‘分’而不是使用小數‘元’進行貨比單位的運算---------以上整理自《Javascript權威指南P37》
首先,我們要站在計算機的角度思考 0.1 + 0.2 這個看似小兒科的問題。我們知道,能被計算機讀懂的是二進制,而不是十進制,所以我們先把 0.1 和 0.2 轉換成二進制看看:
0.1 => 0.0001 1001 1001 1001…(無限循環)
0.2 => 0.0011 0011 0011 0011…(無限循環)
雙精度浮點數的小數部分最多支持 52 位,所以兩者相加之后得到這么一串 0.0100110011001100110011001100110011001100110011001100 因浮點數小數位的限制而截斷的二進制數字,這時候,我們再把它轉換為十進制,就成了 0.30000000000000004。
為了解決浮點數運算不準確的問題,在運算前我們把參加運算的數先升級(10的X的次方)到整數,等運算完后再降級(0.1的X的次方)。
</>復制代碼
//加法
Number.prototype.add = function(arg){
var r1,r2,m;
try{r1=this.toString().split(".")[1].length}catch(e){r1=0}
try{r2=arg.toString().split(".")[1].length}catch(e){r2=0}
m=Math.pow(10,Math.max(r1,r2))
return (this*m+arg*m)/m
}
//減法
Number.prototype.sub = function (arg){
return this.add(-arg);
}
//乘法
Number.prototype.mul = function (arg)
{
var m=0,s1=this.toString(),s2=arg.toString();
try{m+=s1.split(".")[1].length}catch(e){}
try{m+=s2.split(".")[1].length}catch(e){}
return Number(s1.replace(".",""))*Number(s2.replace(".",""))/Math.pow(10,m)
}
//除法
Number.prototype.div = function (arg){
var t1=0,t2=0,r1,r2;
try{t1=this.toString().split(".")[1].length}catch(e){}
try{t2=arg.toString().split(".")[1].length}catch(e){}
with(Math){
r1=Number(this.toString().replace(".",""))
r2=Number(arg.toString().replace(".",""))
return (r1/r2)*pow(10,t2-t1);
}
}
ok,就是這樣了,大家以后在自己的代碼中遇到浮點數要想起js運算的這樣的一個特性,避免不必要的錯誤!
文章版權歸作者所有,未經允許請勿轉載,若此文章存在違規行為,您可以聯系管理員刪除。
轉載請注明本文地址:http://specialneedsforspecialkids.com/yun/85567.html
摘要:原因至于問題產生的原因,或者關于問題的更詳細的描述,大家請看下面幾個文章浮點運算浮點值運算舍入誤差基礎浮點數四則運算精度丟失問題解決方案這里主要討論一下解決方案的問題,上面幾篇文章的解決思路,都是重寫加法減法乘法和除法運算。 問題背景 在 chrome 瀏覽器中調出開發者工具,在控制臺窗口輸入下面的表達式: 0.1 + 0.2 // 期望:0.3,結果:0.300...
摘要:如題先陳述下問題背景偶爾測測自己寫的計算器,隨便輸入玩嘛,然后發生下面詭異的事情當我從一個輸入到十個的時候,過程顯示都是正確的,像這樣繼續輸入一個的時候,然后就這個樣子了什么原因呢看了下自己的代碼,代碼重要部分長這樣的這里用了一下強制轉化為 如題 先陳述下問題背景 偶爾測測自己寫的計算器,隨便輸入玩嘛,然后發生下面詭異的事情:當我從一個 1 輸入到十個 1 的時候,過程顯示都是正確的...
摘要:浮點數并不是能夠精確表示范圍內的所有數的,雖然浮點型的范圍看上去很大。但其實浮點數在保存數字的時候做了規格化處理,以進制為例小數點前只需要保留位數對于二進制來說,小數點前保留一位,規格化后始終是節省了,這個并不需要保存。 JS 中的最大安全整數是多少? JS 中所有的數字類型,實際存儲都是通過 8 字節 double 浮點型 表示的。浮點數并不是能夠精確表示范圍內的所有數的, 雖然 ...
摘要:本文通過介紹的二進制存儲標準來理解浮點數運算精度問題,和理解對象的等屬性值是如何取值的,最后介紹了一些常用的浮點數精度運算解決方案。浮點數精度運算解決方案關于浮點數運算精度丟失的問題,不同場景可以有不同的解決方案。 本文由云+社區發表 相信大家在平常的 JavaScript 開發中,都有遇到過浮點數運算精度誤差的問題,比如 console.log(0.1+0.2===0.3)// fa...
摘要:前言最近,朋友問了我這樣一個問題在中的運算結果,為什么是這樣的雖然我告訴他說,這是由于浮點數精度問題導致的。由于可以用階碼移動小數點,因此稱為浮點數。它的實現遵循標準,使用位精度來表示浮點數。 showImg(https://segmentfault.com/img/remote/1460000018981071); 前言 最近,朋友 L 問了我這樣一個問題:在 chrome 中的運算...
閱讀 2383·2021-11-24 10:26
閱讀 2583·2021-11-16 11:44
閱讀 1700·2021-09-22 15:26
閱讀 3574·2021-09-10 11:11
閱讀 3186·2021-09-07 10:25
閱讀 3625·2021-09-01 10:41
閱讀 1010·2021-08-27 13:11
閱讀 3506·2021-08-16 11:02
极致性价比!云服务器续费无忧!
Tesla A100/A800、Tesla V100S等多种GPU云主机特惠2折起,不限台数,续费同价。
NVIDIA RTX 40系,高性价比推理显卡,满足AI应用场景需要。
乌兰察布+上海青浦,满足东推西训AI场景需要