python中精確的浮點數運算

xiangzhihong 發(fā)布于2019-07-30 14:54 / 2108人閱讀

摘要：起步浮點數的一個普遍的問題是它們不能精確的表示十進制數。這是由于底層和標準通過自己的浮點單位去執(zhí)行算術時的特征。看似有窮的小數在計算機的二進制表示里卻是無窮的。盡管代碼看起來比較奇怪，使用字符串來表示數字，但是支持所有常用的數學運算。

起步

浮點數的一個普遍的問題是它們不能精確的表示十進制數。

>>> a = 4.2
>>> b = 2.1
>>> a + b
6.300000000000001
>>> (a + b) == 6.3
False
>>>

這是由于底層 CPU 和 IEEE 754 標準通過自己的浮點單位去執(zhí)行算術時的特征。看似有窮的小數, 在計算機的二進制表示里卻是無窮的。

一般情況下，這一點點的小誤差是允許存在的。如果不能容忍這種誤差（比如金融領域），那么就要考慮用一些途徑來解決這個問題了。

Decimal

使用這個模塊不會出現(xiàn)任何小誤差。

>>> from decimal import Decimal
>>> a = Decimal("4.2")
>>> b = Decimal("2.1")
>>> a + b
Decimal("6.3")
>>> print(a + b)
6.3
>>> (a + b) == Decimal("6.3")
True

盡管代碼看起來比較奇怪，使用字符串來表示數字，但是 Decimal 支持所有常用的數學運算。 decimal 模塊允許你控制計算的每一方面，包括數字位數和四舍五入。在這樣做之前，需要創(chuàng)建一個臨時上下文環(huán)境來改變這種設定：

>>> from decimal import Decimal, localcontext
>>> a = Decimal("1.3")
>>> b = Decimal("1.7")
>>> print(a / b)
0.7647058823529411764705882353
>>> with localcontext() as ctx:
...     ctx.prec = 3
...     print(a / b)
...
0.765
>>> with localcontext() as ctx:
...     ctx.prec = 50
...     print(a / b)
...
0.76470588235294117647058823529411764705882352941176
>>>

由于 Decimal 的高精度數字自然也就用字符串來做展示和中轉。

總結

總的來說，當涉及金融領域時，哪怕是一點小小的誤差在計算過程中都是不允許的。因此 decimal 模塊為解決這類問題提供了方法。

GPU云服務器云服務器精確運算浮點數的運算 python中@運算 js浮點數運算

文章版權歸作者所有，未經允許請勿轉載,若此文章存在違規(guī)行為，您可以聯(lián)系管理員刪除。

轉載請注明本文地址：http://specialneedsforspecialkids.com/yun/40994.html

Python數據結構——另一個角度看Python(概述)

摘要：數據結構另一個角度看概述中絕大部分數據結構可以最終分解為三種類型標量序列映射。創(chuàng)建變量時不需要聲明數據類型的數據類型是整數而的數據類型是浮點數布爾值只有和兩種值支持三種運算。的浮點數實際上是雙精度浮點數即語言的類型。 Python數據結構——另一個角度看Python(概述) Python 中絕大部分數據結構可以最終分解為三種類型: 標量(Scaler), 序列(Sequence), ...

big_cat 2019-07-31 09:58 評論0 收藏0
Python標準數據類型-數字

Python內置了整數、復數、浮點數三種數字類型。整數整數是沒有小數部分的數值，與數學上的一樣： >>> 1 1 >>> -1 -1 整數沒有大小限制，只要你的內存足夠大，就可以創(chuàng)建任意大小的整數： >>> 1111111111111111111111111111111111111111111111111111111111111111111111111111111111111111111111...

svtter 2019-07-31 11:14 評論0 收藏0
為什么0.1+0.2不等于0.3

摘要：又如，對于，結果其實并不是，但是最接近真實結果的數，比其它任何浮點數都更接近。許多語言也就直接顯示結果為了，而不展示一個浮點數的真實結果了。小結本文主要介紹了浮點數計算問題，簡單回答了為什么以及怎么辦兩個問題為什么不等于。原文地址：為什么0.1+0.2不等于0.3 先看兩個簡單但詭異的代碼： 0.1 + 0.2 > 0.3 // true 0.1 * 0.1 = 0.01000000...

Profeel 2019-08-21 17:48 評論0 收藏0
JS魔法堂：徹底理解0.1 + 0.2 === 0.30000000000000004的背后

摘要：也就是說不僅是會產生這種問題，只要是采用的浮點數編碼方式來表示浮點數時，則會產生這類問題。到這里我們都理解只要采取的浮點數編碼的語言均會出現(xiàn)上述問題，只是它們的標準類庫已經為我們提供了解決方案而已。 Brief 一天有個朋友問我JS中計算0.7 * 180怎么會等于125.99999999998，坑也太多了吧！那時我猜測是二進制表示數值時發(fā)生round-off error所導致，但并不...

JerryWangSAP 2019-08-19 18:12 評論0 收藏0
JS中如何理解浮點數？

摘要：本文通過介紹的二進制存儲標準來理解浮點數運算精度問題，和理解對象的等屬性值是如何取值的，最后介紹了一些常用的浮點數精度運算解決方案。浮點數精度運算解決方案關于浮點數運算精度丟失的問題，不同場景可以有不同的解決方案。本文由云+社區(qū)發(fā)表相信大家在平常的 JavaScript 開發(fā)中，都有遇到過浮點數運算精度誤差的問題，比如 console.log(0.1+0.2===0.3)// fa...

bang590 2019-08-26 13:26 評論0 收藏0