📔

IT基礎演算誤差の整理

2022/05/05に公開

演算誤差とは

コンピュータが有限桁の計算を行い、計算結果を限られたビット内で収める時に、計算結果が反映されないことがある。この誤差を演算誤差という。

値がほぼ等しい数値同士の減算により、有効桁数が大きく減ることによって生じる誤差のことを「桁落ち」という。

信頼できる数値(桁数)のこと。

利用しやすいように整理したり変形したりすること。
数値の計算における正規化は、数値の最上位の桁が、小数点のすぐ上（またはすぐ下）にくるようにして、指数部に合わせて作り直すことである。

絶対値の大きい数値と小さい数値の加減算において、小さい数値が計算結果に反映されないこと。
浮動小数点数演算で、指数の大きい値に合わせて仮数部を調整することが原因である。

有限桁に収まり切らない部分を四捨五入、切り上げ、切り捨て、を行うことで発生する誤差。

無限級数のある項以降を無視することによって生じる誤差を打ち切り誤差という。

演算結果が表現可能な数値の範囲を超えた場合に生じる誤差。
数値型の変数には最大値があるため、その限界よりも大きな値を変数に入れようとしたときに起こる現象である。