我控制台輸出(10000.0/3.0)結果為3333.333333333335共18個字符但是double精度是15位啊,我將它轉化為float結果為3333.3333但是float的精度是6-7位為什麼會這樣,新手求解
double的精度和輸出的10進制方式的精度沒有任何關系。這裡說的double float的精度是指它的有效精度。以你的程序為例,它輸出 3333.333333333335,很明顯最後一位5已經不是有效數字了,它的有效數字是15位,和你的結論是一樣的。
c++向量括號裡是數組是什麼
java集合父集和子集操作異
安卓socket設置超時時間
JavaScript報這個錯
新人求助node.js+mo
運行一個servlet後ec