摘要:在里實現一個完美的,結果一不小心就掉進坑里。最后發現,并不是我們的代碼有問題,也不是的。類型在構造時,數值就發生了變化實際上存儲的是是浮點運算機制的鍋。但的運算性能相對較差。完美的事情不存在的啊,不過百萬次的計算量基本無差別,放心用。
在java里實現一個完美的round(),結果一不小心就掉進坑里。
第一直覺,好像用Math.round()就完事了吧,搞一個double的參數丟進去:Double dou = new Double(0.285); System.out.println(Math.round(dou*100)/100.0); 結果:0.28,撲街..好吧,用BigDecimal試一下:
BigDecimal bd = new BigDecimal(0.285); System.out.println(bd.setScale(2,BigDecimal.ROUND_HALF_UP).doubleValue()); 結果:0.28,再次撲街。
最后發現,并不是我們的代碼有問題,也不是java的bug。
**BigDecimal類型在構造時,數值就發生了變化,實際上存儲的是:** 0.284999999999999975575093458246556110680103302001953125 是浮點運算機制的鍋。只要使用字符類型來初始化BigDecimal,以上問題就迎刃而解了。
BigDecimal bd = new BigDecimal("0.285"); System.out.println(bd.setScale(2,BigDecimal.ROUND_HALF_UP).doubleValue()); 但BigDecimal的運算性能相對較差。 完美的事情不存在的啊,不過百萬次的計算量基本無差別,放心用。
文章版權歸作者所有,未經允許請勿轉載,若此文章存在違規行為,您可以聯系管理員刪除。
轉載請注明本文地址:http://specialneedsforspecialkids.com/yun/75031.html
摘要:在中處理帶小數的數據時,通常會碰到需要進行對數據進行四舍五入或者截取等操作。提供了一個的方法,很方便的幫助我們實現想要的操作。 在Java中處理帶小數的數據時,通常會碰到需要進行對數據進行四舍五入或者截取等操作。BigDecimal提供了一個setScale()的方法,很方便的幫助我們實現想要的操作。 通常用到的是下面的方法 setScale(int newScale, in...
摘要:舍入方式需要弄明白自己的業務才用,別為了用而隨便選一個用四舍五入模式從零四舍五入。原值結論都是向前進一位四舍五入到正無窮。 一:相除精度丟失的問題 BigDecimal的api除法相對加減乘要實現的復雜多了,只介紹常用的我遇到的問題: 問題:兩數相除,如果9/3=3整除沒問題,但是10/3=0.33333333......除不盡,這里不能讓電腦一直除不盡,所以BigDecimal...
摘要:使用,保證精度的同時,能精準的進行四舍六入計算。類精確的數學運算使用來實現精準度因為精度的原因構造方法的結果有一定的不可預知性,例如因此建議使用。算法規則四舍六入五考慮,五后非零就進一,五后皆零看奇偶,五前為偶應舍去,五前為奇要進一。 四舍六入計算 算法規則: 四舍六入五考慮, 五后非零就進一, 五后皆零看奇偶, 五前為偶應舍去, 五前為奇要進一。 使用BigDecimal,保證精度的...
摘要:語言中給我們提供了專門用來操作這些數據的代碼符號,統稱為運算符。運算符的優先級運算符優先級決定一個表達式里術語的分組。一定的運算符比其他運算符擁有更高的優先級。 showImg(https://segmentfault.com/img/remote/1460000012983569?w=900&h=500); 在前面的內容已經學會了如何定義變量和初始化變量。定義變量的目的就是為了操作數...
摘要:整數除法對兩個不能整除的整數做除法,就要面對舍入的問題。中的舍入除了缺省的舍入方式,還有多種舍入可供選擇。就是說,我們輸入的十進制數,在計算機內部都是用二進制來表示的。 關于除法,你也許覺得沒什么值得談論的,畢竟小學的時候體育老師就教過我們了。然而對于編程中使用的除法,我覺得還是有很多值得注意的細節的。為什么我想深究一下?因為我日常主要使用Java和Python編程,而它們的除法在細節...
閱讀 2014·2021-11-15 11:38
閱讀 2048·2019-08-30 15:55
閱讀 2182·2019-08-30 15:52
閱讀 3167·2019-08-30 14:01
閱讀 2684·2019-08-30 12:47
閱讀 1129·2019-08-29 13:17
閱讀 1062·2019-08-26 13:55
閱讀 2629·2019-08-26 13:46