🚀

浮動小数点数について

2025/01/29に公開

IEEE754

符号部 + 指数部 + 仮数部で表現される。

符号部は+,-、指数部は小数点の位置、仮数部は有効数字を表す。
各部のビット数は以下

符号部 指数部 仮数部 合計
1 5 10 16
1 8 23 32
1 11 52 64
1 15 112 128

1.25を32ビットの形式に変換する

1、2進数に変換

1.25 = 10.1

2、正規化

1.01 * 2^0

E = 0
仮数部=01

3、符号ビットは0

4、指数部

0(E) + 127(ビット数によって変化するバイアス付き指数) = 127

5、仮数部が23桁になるまで0埋めして結合する

結果、00111111101000000000000000000000

誤差

仮数部で表現しきれない桁数の計算や0.1などの2進数で表現できない10進数は誤差が生じる。

Discussion