摘要:標準二進制浮點數算法就是一個對實數進行計算機編碼的標準。然后把取出的整數部分按順序排列起來,先取的整數作為二進制小數的高位有效位,后取的整數作為低位有效位。
浮點運算JavaScript
本文主要討論JavaScript的浮點運算,主要包括
JavaScript number基本類型
二進制表示十進制
浮點數的精度
number 數字類型在JavaScript中,數字只有number這一種類型;
var intS = 2, floatA = 0.1; typeof intS; // number typeof floatA; //number
那么這個情況下應該很容易理解一件事情:number應該是實現的浮點型數來標識所有的數;
而實際上也是這樣;JavaScript的number類型按照ECMA的JavaScript標準,它的Number類型就是IEEE 754的雙精度數值,相當于java的double類型。IEEE 754標準《二進制浮點數算法》(www.ieee.org)就是一個對實數進行計算機編碼的標準。
同樣,在計算機的世界里,應該是只有二進制數據的,不是0就是1,那么為了表達生活中最為常見的十進制數據,就會有個轉換過程;這個就是十進制轉換為二進制的方法;
參考:http://www.cnblogs.com/xkfz00...
這個情況比較常見:3 =》 01;5 =》101;十進制整數轉換為二進制整數采用"除2取余,逆序排列"法。具體做法是:用2去除十進制整數,可以得到一個商和余數;再用2去除商,又會得到一個商和余數,如此進行,直到商為零時為止,然后把先得到的余數作為二進制數的低位有效位,后得到的余數作為二進制數的高位有效位,依次排列起來
換算的法則是,使用一個十進制數字來示例: 173 =》 10101101:
十進制的小數轉換為二進制,0.5 =》 0.1 ;十進制小數轉換成二進制小數采用"乘2取整,順序排列"法。具體做法是:用2乘十進制小數,可以得到積,將積的整數部分取出,再用2乘余下的小數 部分,又得到一個積,再將積的整數部分取出,如此進行,直到積中的小數部分為零,或者達到所要求的精度為止。然后把取出的整數部分按順序排列起來,先取的整數作為二進制小數的高位有效位,后取的整數作為低位有效位。
示例 0.8125 =》 0.1101
從上面的講述中可以知道,一個十進制的小數:173.8125 轉換為二進制是 10101101.1101;在計算機中一般都會使用科學計算來處理浮點數,也就是 173.8125 == 1.738125 * 10(2);那么二進制的表示也不例外,通過指數來定位小數點,用固定的精度來表示數據;
在JavaScript使用的IEEE 754的雙精度數值,一個JavaScript的number表示應該是二進制如下格式:
1[-/+] 11[位指數] 52[數值] 64位長 + - + -------- + ----------------------- +
64位的具體表述在不同系統可能順序會有差異,但是都是包含以下三部分:
符號位: 1bit,0表示正數,1表示負數
指數位:11bit,也就是需要移動的位數,也就是指數的大小;由于會存在負數和證書,所以這里用了一個偏移的方式處理,也就是真正的指數+1023,這樣的話就表示了【-1023 ~ 1024】;而-1023也就是全0,1024就是全1;
尾數:52bit,這里需要注意的是由于小數點前面以為必須為1,所以實際上是52+1=53位;
參考:http://coolcao.com/2016/10/12...
http://www.cnblogs.com/kingwo...
可以看到,由于二進制的精確位數只有52+1位,那么類似 1/3 這樣的無理數,那么肯定是無法表示的,而且二進制還有很多有理數 0.1這樣的也無法在52位精度的范圍內表示精確無誤;都會被截取53位以后的所有數字。
有了以上的鋪墊,那么我們很容易就可以推到出原因了;推理步驟如下:
十進制0.1 =》 [利用上面說的方法來轉換,乘以2取整數,然后順序獲取取出得數]
=>二進制為:0.0001100110011[0011…](循環0011,無限循環) =>指數表示:尾數為1.1001100110011001100…1100(共52位,除了小數點左邊的必須為1的數據),指數為-4(-4+1023 = 1019 二進制移碼為 01111111011),符號位為0 => 計算機存儲為:0 01111111011 10011001100110011…11001 => 因為尾數最多52位,所以實際存儲的值為0.00011001100110011001100110011001100110011001100110011001
而十進制0.2
=> 二進制0.0011001100110011…(循環0011) =>尾數為1.1001100110011001100…1100(共52位,除了小數點左邊的1),指數為-3(-3+1023=1020二進制移碼為01111111100),符號位為0 => 存儲為:0 01111111100 10011001100110011…11001 因為尾數最多52位,所以實際存儲的值為0.00110011001100110011001100110011001100110011001100110011
那么兩者相加得:
加法運算的時候需要注意以下幾點:
對階:需要將指數小的,變得和指數大的一樣,通過位數移位【移位注意有一個隱藏的小數點左邊的固定的1】
尾數運算:加法運算
結果規格化:規范為 位數的左邊第一位必須為隱藏的1,
舍入處理:主要是在截取的時候進行的處理,最后位舍去時為0直接舍去,為1則+1;【有多種舍入處理】
溢出判斷:
尾數加法運算開始,注意小數點左邊隱藏的默認1
[1].1001100110011001100110011001100110011001100110011001 + [1].1001100110011001100110011001100110011001100110011001
//由于0.1是-3階,指數是-4,而0.2的指數位-3,故而取大者-3;這樣0.1需要右移一位,剛好之前小數點左側隱藏的1被移出來了;如下
.1100110011001100110011001100110011001100110011001100 【1被舍去】 + [1].1001100110011001100110011001100110011001100110011001 = 100110011001100110011001100110011001100110011001100111
此時階碼變為了 -3,但是由于進位了兩位,但是最高位需要保留,故而階位只是+1,也就是-2了.也就是01111111101,
進行舍入處理,由于最高位一定是1,所以對結果最高位去除,末尾一位去除,由于是1,故而+1處理,得到新的52位位數為:
新的尾數: 0011001100110011001100110011001100110011001100110100 存儲為: 0 01111111101 0011001100110011001100110011001100110011001100110100 十進制就是:0.3000000000000000444089209850062616169452667236328125 截取為: 0.30000000000000004
轉換成10進制之后得到:0.30000000000000004
思考看到 0.1+0.2 = 0.30000000000000004;我開始慌了,那么0.1+0.3 === 0.4 對嗎?我也不知道,雖然最后運算的時候證明是對的,但是還是可以按照我們的方法進行分析
十進制0.1 [利用上面說的方法來轉換,乘以2取整數,然后順序獲取取出得數] =>二進制為:0.0001100110011[0011…](循環0011,無限循環) =>指數表示:尾數為1.1001100110011001100…1100(共52位,除了小數點左邊的必須為1的數據),指數為-4(-4+1023 = 1019 二進制移碼為 01111111011),符號位為0 => 計算機存儲為:0 01111111011 10011001100110011…11001 => 因為尾數最多52位,所以實際存儲的值為0.00011001100110011001100110011001100110011001100110011001 而十進制0.3 => 二進制0.010011001100110011001100110011001...(循環1001) =>尾數為1.00110011001100110011…0011(共52位,除了小數點左邊的1),指數為-2(-2+1023=1021二進制移碼為01111111101),符號位為0 => 存儲為:0 01111111101 0011001100110011…110011 因為尾數最多52位,所以實際存儲的值為0.01001100110011001100110011001100110011001100110011001100 那么兩者相加得[對階,為大者-2,-4階數的0.1左移兩位]: .0110011001100110011001100110011001100110011001100110 + [1].0011001100110011001100110011001100110011001100110011 = 1.1001100110011001100110011001100110011001100110011001 新的尾數: 1001100110011001100110011001100110011001100110011001 存儲為: 0 01111111101 1001100110011001100110011001100110011001100110011001 十進制就是:0.39999999999999996447286321199499070644378662109375 截取為: 0.4
可以看到,JavaScript的小數保留了17位,
//一個52位小數的最小二進制的表示 0.0000000000000000000000000000000000000000000000000001 0.0000000000000002220446049250313 //一個53【加頭部默認1位】位小數的最小二進制數 0.00000000000000000000000000000000000000000000000000001 0.00000000000000011102230246251565 Math.pow(2, 53) 9007199254740992 //當大于這個數的時候就會丟失精度 Math.pow(2, -53) 1.1102230246251565e-16 //當小于這個數也會丟失精度
JavaScript采用了17位來默認截取數據,根據四舍五入方法或者是說二進制中的0舎1進位的方式截取。
所以這樣的加法有的時候會出現精度問題,有的又不會。看看具體的情況,在chrome的console里面運行的結果如下:
0.4-0.1 0.30000000000000004 0.3+0.1 0.4 0.1+0.2 0.30000000000000004
文章版權歸作者所有,未經允許請勿轉載,若此文章存在違規行為,您可以聯系管理員刪除。
轉載請注明本文地址:http://specialneedsforspecialkids.com/yun/84663.html
摘要:原因至于問題產生的原因,或者關于問題的更詳細的描述,大家請看下面幾個文章浮點運算浮點值運算舍入誤差基礎浮點數四則運算精度丟失問題解決方案這里主要討論一下解決方案的問題,上面幾篇文章的解決思路,都是重寫加法減法乘法和除法運算。 問題背景 在 chrome 瀏覽器中調出開發者工具,在控制臺窗口輸入下面的表達式: 0.1 + 0.2 // 期望:0.3,結果:0.300...
摘要:返回是,這是為什么呢我們知道浮點數計算是不精確的,上面的返回式實際上是這樣的在的新規范加入了一個新的東西是在對象上面,新增一個極小的常量。根據規格,它表示與大于的最小浮點數之間的差。上面的代碼為浮點數運算,部署了一個誤差檢查函數。 0.1+0.2 === 0.3 //返回是false, 這是為什么呢?? 我們知道浮點數計算是不精確的,上面的返回式實際上是這樣的:0.1 + 0.2 = ...
摘要:由于浮點數不是精確的值,所以涉及小數的比較和運算要特別小心。根據標準,位浮點數的指數部分的長度是個二進制位,意味著指數部分的最大值是的次方減。也就是說,位浮點數的指數部分的值最大為。 一 前言 這篇文章主要解決以下三個問題: 問題1:浮點數計算精確度的問題 0.1 + 0.2; //0.30000000000000004 0.1 + 0.2 === 0.3; // ...
摘要:本文通過介紹的二進制存儲標準來理解浮點數運算精度問題,和理解對象的等屬性值是如何取值的,最后介紹了一些常用的浮點數精度運算解決方案。浮點數精度運算解決方案關于浮點數運算精度丟失的問題,不同場景可以有不同的解決方案。 本文由云+社區發表 相信大家在平常的 JavaScript 開發中,都有遇到過浮點數運算精度誤差的問題,比如 console.log(0.1+0.2===0.3)// fa...
摘要:又如,對于,結果其實并不是,但是最接近真實結果的數,比其它任何浮點數都更接近。許多語言也就直接顯示結果為了,而不展示一個浮點數的真實結果了。小結本文主要介紹了浮點數計算問題,簡單回答了為什么以及怎么辦兩個問題為什么不等于。 原文地址:為什么0.1+0.2不等于0.3 先看兩個簡單但詭異的代碼: 0.1 + 0.2 > 0.3 // true 0.1 * 0.1 = 0.01000000...
閱讀 1772·2023-04-25 21:50
閱讀 2419·2019-08-30 15:53
閱讀 768·2019-08-30 13:19
閱讀 2743·2019-08-28 17:58
閱讀 2465·2019-08-23 16:21
閱讀 2701·2019-08-23 14:08
閱讀 1374·2019-08-23 11:32
閱讀 1439·2019-08-22 16:09