[理工] 計組 上冊 P.234

看板Grad-ProbAsk作者 (James)時間6年前 (2017/10/14 14:53), 編輯推噓1(1推 0噓 3→)
留言4則, 2人參與, 6年前最新討論串1/1
請問一下(d)將整數用浮點數表示 為什麼會lose precision ? http://i.imgur.com/eUaeaqK.jpg
----- Sent from JPTT on my Asus Z00D. -- ※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 101.12.103.41 ※ 文章網址: https://www.ptt.cc/bbs/Grad-ProbAsk/M.1507964016.A.73E.html
推
10/14 15:23, 6年前 , 1F
把32bit二進位整數先平移成左邊只留下一個1，就會發現你
10/14 15:23, 1F
→
10/14 15:23, 6年前 , 2F
的mantissa可能不夠表示小數點後的位數。應該是這樣
10/14 15:23, 2F
→
10/14 15:45, 6年前 , 3F
了解 題目應該寫成...may lose precision比較好xD
10/14 15:45, 3F
→
10/14 15:46, 6年前 , 4F
謝謝king8313
10/14 15:46, 4F
‣ 更多 ddd23236 的文章
文章代碼(AID): #1PuRHmS- (Grad-ProbAsk)