🚀
浮動小数点数について
IEEE754
符号部 + 指数部 + 仮数部で表現される。
符号部は+,-、指数部は小数点の位置、仮数部は有効数字を表す。
各部のビット数は以下
符号部 | 指数部 | 仮数部 | 合計 |
---|---|---|---|
1 | 5 | 10 | 16 |
1 | 8 | 23 | 32 |
1 | 11 | 52 | 64 |
1 | 15 | 112 | 128 |
例
1.25を32ビットの形式に変換する
1、2進数に変換
2、正規化
E = 0
仮数部=01
3、符号ビットは0
4、指数部
5、仮数部が23桁になるまで0埋めして結合する
結果、00111111101000000000000000000000
誤差
仮数部で表現しきれない桁数の計算や0.1などの2進数で表現できない10進数は誤差が生じる。
Discussion