寫一行很簡單的C代碼:
float a = 1234.56;
用vdsp編譯後的匯編代碼為:
R0 = 20972 ( X ) ;
R0.H = 17562 ;
[ FP + 0x10 ] = R0 ;
有點看不懂,呵呵,R0的值轉換為十六進制就是0x449A51EC。根據vdsp文檔的說法,其單精度浮點數格式為:
浮點數計算公式:
將0x449A51EC轉換為二進制:
0100 0100 1001 1010 0101 0001 1110 1100
可得:
Sign = 0
Mantissa = 001 1010 0101 0001 1110 1100
Exponent = 1000 1001
按照公式
將Exponent轉換為十進制,其值為137。
將Mantissa轉換為十進制,其值為:
2-3 + 2-4 + 2-6 + 2-9 + 2 -11 + 2-15 + 2-16 + 2-17 + 2-18 + 2-20 + 2-21 =
0.125 + 0.0625 + 0.015625 + 0.001953125 + 0.00048828125 + 0.000030517578125 + 0.0000152587890625 + 0.00000762939453125 + 0.000003814697265625 + 0.00000095367431640625 + 0.000000476837158203125 = 0.205625057220458984375
代入浮點數計算公式:
(-1)0 + 1. 205625057220458984375 * 2 (137-127)
= 1234.56005859375
那麼編譯器又是如何將1234.56轉換為0x449A51EC的呢?
首先轉換整數部分,用2除,取余數,其結果為:
1234 / 2 = 617 ….. 0
617 / 2 = 308 …….1
308 / 2 = 154 …….0
154 / 2 = 77 ……...0
77 / 2 = 38 ……….1
38 / 2 = 19 ……….0
19/ 2 = 9 ………….1
9 / 2 = 4………… .1
4/ 2 = 2 …………..0
2/2 = 1……………0
1/2 = 0……………1
即100 1101 0010,用16進制表示則為:0x4d2。
再轉換小數部分,用2乘,取整數位:
0.56 * 2 = 1.12取1
0.12 * 2 = 0.24取0
0.24 * 2 = 0.48取0
0.48 * 2 = 0.96取0
0.96 * 2 = 1.92取1
0.92 * 2 = 1.84取1
0.84 * 2 = 1.68取1
0.68 * 2 = 1.36取1
0.36 * 2 = 0.72取0
0.72 * 2 = 1.44取1
0.44 * 2 = 0.88取0
0.88 * 2 = 1.76取1
0.76 * 2 = 1.52取1
小數部分的值為0.1000 1111 0101 11
所以1234.56表示成二進制數就是
100 1101 0010. 1000 1111 0101 11
由於浮點數表示法的尾數部分以1開頭,所以上面的這個數可以表示為:
1.00 1101 0010 1000 1111 0101 11 * 210
從浮點數的表示公式即可算出
Exponent = 127 + 10 = 137
而尾數部分則為
00 1101 0010 1000 1111 0101 11
因此整個數就是:
0 1000 1001 00 1101 0010 1000 1111 0101 11
符號位 指數 尾數
從整數的角度來看就是:
0100 0100 1001 1010 0101 0001 1110 1011
十六進制表示為:
4 4 9 A 5 1 E B
奇怪得很,最後居然有偏差。莫非VDSP還有什麼機關不成?