背景
我們在使用金額計(jì)算或者展示金額的時(shí)候經(jīng)常會(huì)使用 BigDecimal,也是涉及金額時(shí)非常推薦的一個(gè)類型。
BigDecimal 自身也提供了很多構(gòu)造器方法,這些構(gòu)造器方法使用不當(dāng)可能會(huì)造成不必要的麻煩甚至是金額損失,從而引起事故資損。
事故
接下來我們看下收銀臺(tái)出的一起事故。
問題描述
收銀臺(tái)計(jì)算商品金額報(bào)錯(cuò),導(dǎo)致訂單無法支付。
事故級別
P0
事故過程
如下:
13:44,接到報(bào)警,訂單支付失敗,支付可用率降至 60%
13:50,迅速回滾上線代碼,恢復(fù)正常
14:20,review 代碼,預(yù)發(fā)布驗(yàn)證發(fā)現(xiàn)問題點(diǎn)
14:58,修改問題代碼上線,線上恢復(fù)
故障原因
BigDecimal 在金額計(jì)算中丟失精度。
原因分析
首先我們先用一段代碼復(fù)現(xiàn)問題根源,如下所示:
publicstaticvoidmain(String[]args){ BigDecimalbigDecimal=newBigDecimal(88); System.out.println(bigDecimal); bigDecimal=newBigDecimal("8.8"); System.out.println(bigDecimal); bigDecimal=newBigDecimal(8.8); System.out.println(bigDecimal); }
執(zhí)行結(jié)果如下:
通過測試發(fā)現(xiàn),當(dāng)使用 double 或者 float 這些浮點(diǎn)數(shù)據(jù)類型時(shí),會(huì)丟失精度,String、int 則不會(huì),這是為什么呢?
我們點(diǎn)開構(gòu)造器方法看下源碼:
publicstaticlongdoubleToLongBits(doublevalue){ longresult=doubleToRawLongBits(value); //CheckforNaNbasedonvaluesofbitfields,maximum //exponentandnonzerosignificand. if(((result&DoubleConsts.EXP_BIT_MASK)== DoubleConsts.EXP_BIT_MASK)&& (result&DoubleConsts.SIGNIF_BIT_MASK)!=0L) result=0x7ff8000000000000L; returnresult; }
問題就處在 doubleToRawLongBits 這個(gè)方法上,在 jdk 中 double 類(float 與 int 對應(yīng))中提供了 double 與 long 轉(zhuǎn)換,doubleToRawLongBits 就是將 double 轉(zhuǎn)換為 long,這個(gè)方法是原始方法(底層不是 java 實(shí)現(xiàn),是 c++ 實(shí)現(xiàn)的)。
double 之所以會(huì)出問題,是因?yàn)樾?shù)點(diǎn)轉(zhuǎn)二進(jìn)制丟失精度。
BigDecimal 在處理的時(shí)候把十進(jìn)制小數(shù)擴(kuò)大 N 倍讓它在整數(shù)上進(jìn)行計(jì)算,并保留相應(yīng)的精度信息。
① float 和 double 類型,主要是為了科學(xué)計(jì)算和工程計(jì)算而設(shè)計(jì)的,之所以執(zhí)行二進(jìn)制浮點(diǎn)運(yùn)算,是為了在廣泛的數(shù)值范圍上提供較為精確的快速近和計(jì)算。
② 并沒有提供完全精確的結(jié)果,所以不應(yīng)該被用于精確的結(jié)果的場合。
③ 當(dāng)浮點(diǎn)數(shù)達(dá)到一定大的數(shù),就會(huì)自動(dòng)使用科學(xué)計(jì)數(shù)法,這樣的表示只是近似真實(shí)數(shù)而不等于真實(shí)數(shù)。
④ 當(dāng)十進(jìn)制小數(shù)位轉(zhuǎn)換二進(jìn)制的時(shí)候也會(huì)出現(xiàn)無限循環(huán)或者超過浮點(diǎn)數(shù)尾數(shù)的長度。
總結(jié)
所以,在涉及到精度計(jì)算的過程中,我們盡量使用 String 類型來進(jìn)行轉(zhuǎn)換。
編輯:黃飛
-
浮點(diǎn)數(shù)
+關(guān)注
關(guān)注
0文章
61瀏覽量
16130 -
代碼
+關(guān)注
關(guān)注
30文章
4900瀏覽量
70698 -
string
+關(guān)注
關(guān)注
0文章
40瀏覽量
4910
原文標(biāo)題:BigDecimal使用不當(dāng),造成P0事故!
文章出處:【微信號:AndroidPush,微信公眾號:Android編程精選】歡迎添加關(guān)注!文章轉(zhuǎn)載請注明出處。
發(fā)布評論請先 登錄
關(guān)于鍍銅表面粗糙問題原因分析
某型導(dǎo)彈射手失誤信號的時(shí)頻分析研究

評論