2012年6月22日 星期五

Excel-浮點算術造成不正確的計算結果

在 Excel 的運算中,有時你會發現類似以下的問題:

B1:0.000123456789012345

B2:1

B3:1.00012345678901

若 B3=B1+B2,觀察儲存格B3,結果好像不正確(應為0.000123456789012345)。那是因為在 Excel 中最多只能儲存 15 個有效位數的精確度所致。

同理,當你在使用非常的數字來運算時,也會遭遇有效位數不夠用的問題。

所以你在計算時,如果要求準確度要很精細的計算,你可能要小心一點處理。你可以參考微軟的說明:

浮點算術可能會在 Excel 中造成不正確的計算結果(http://support.microsoft.com/kb/78113/zh-tw)

沒有留言:

張貼留言

檢視其他文章

好康東東