前言
在近日幾個帖子裡面，和QQ群的討論裡面，我發現很多網友都遇到的問題都是因為不恰當地使用了單精度/雙精度數值。因此想專門就這個話題談一下。 單精度和雙精度數值類型最早出現在C語言中（比較通用的語言裡面），在C語言中單精度類型稱為浮點類型（Float），顧名思義是通過浮動小數點來實現數據的存儲。這兩個數據類型最早是為了科學計算而產生的，他能夠給科學計算提供足夠高的精度來存儲對於精度要求比較高的數值。但是與此同時，他也完全符合科學計算中對於數值的觀念： 當我們比較兩個棍子的長度的時候，一種方法是並排放著比較一下，一種方法是分別量出長度。但是事實上世界上並不存在兩根完全一樣長的棍子，我們測量的長度精度受到人類目測能力和測量工具精度的限制。從這個意義上來說，判斷兩根棍子是否一樣長絲毫沒有意義，因為結果一定是False，但是我們可以比較他們兩個哪個更長或者更短。這個例子很好地概括了單精度/雙精度數值類型的設計初衷和存在意義。 基於上述認識，單精度/雙精度數值類型從一開始設計的時候，就不是一個准確的數值類型，他只保證在他這個數值類型的精度之內是准確的，精度之外則不保證，比方說，一個數值5.1，很可能存儲在單精度/雙精度數值中的實際值是5.100000000001或者5.09999999999999。導致這個現象的原因我們可以通過兩種方式來解釋： 簡單的解釋方法： 你可以嘗試在任何一個控件的屬性面板中，設定他的寬度為：3.2CM，當你輸入完畢後，你會發現值自動變成了3.199cm，無論你怎麼改，你都無法輸入3.200CM，因為實際上在電腦中存儲的並不是CM為單位的數值，而是“缇”為單位的數值，而“缇”和CM之間的比值，是個很難被除盡的數，因此你輸入完畢後，電腦自動轉換成了最接近的“缇”值，然後再轉換成厘米顯示到屬性面板上，這一乘一除，兩次四捨五入，誤差就出來了。單精度/雙精度也是類似的原理，其實在二進制存儲的時候，單精度/雙精度都采用了類似相近分數的方法，而這樣的存儲是不可能做到准確的。 深入的解釋方法： 讓我們來看看我們存儲到數字介質中的單精度/雙精度值到底是怎麼樣的，我們使用如下代碼對單精度類型進行一個解剖：Public Sub floatTest()
Dim dblVar As Single
運行後我們得到輸出結果（輸出格式為高位左，低位右）：
