7.2　まるめ（有限な桁で表すための限界）

浮動小数点は、有効数字(仮数部)と桁移動(指数部)の組合せで、以下のような広い範囲の数を表現します。

型サイズ指数部仮数部値の範囲

float ３２ビット８ビット２４ビット ±3.40282347E+38 ～ ±1.40239846E-45

double ６４ビット１１ビット５３ビット ±1.79769313486231570E+308 ～ ±4.94065645841246544E-324

型	サイズ	指数部	仮数部	値の範囲
float	３２ビット	８ビット	２４ビット	±3.40282347E+38 ～ ±1.40239846E-45
double	６４ビット	１１ビット	５３ビット	±1.79769313486231570E+308 ～ ±4.94065645841246544E-324

float と double の有効数字の桁数を調べて見ましょう。

有効数字の桁数は、上記仮数部の桁数で決まります。

という関係に注目して概算をしてみると、

１０進数で数えて、float は７～８桁、 double は１６桁程度の有効数字であることがわかります。

確認するプログラムを作ってみましょう。

浮動小数点で表現可能な絶対値の一番小さい数は、 Float.MIN_VALUE および Double.MIN_VALUE で参照できます。

判定アルゴリズム

実行結果

double は１６桁まで、 float は７桁まで正しい値になっています。

無限小数や循環小数（２進法の）となる数値を有限の桁で表現したり、桁数が多く有効数字をすべて保持できない整数を表現したりする場合に生ずる誤差をまるめ誤差といいます。有効数字の桁数以内の整数であれば正確な値を保持できますが、浮動小数点数は、一般には誤差を含むと考えなければいけません。たとえば、

「 0.1 を１０回たす」のと、「 0.1 を 1.0 になるまで何回か積算する」のでは、結果が違います。

実行結果

また、上記の結果を見て、０．９９９９９９９... を１．０と、　１．０９９９９９９... を１．１　と読めるようにしましょう。

２つの浮動小数点数が等しいかどうかの判定も工夫が必要です。小数点以下の有効数字をもつ場合、計算結果が同じになることは稀です。

例： Error1.java

したがって、計算結果が等しいかどうかの判定には

相対誤差による比較
たとえば、相対誤差１０^-5 、 a ≠ 0 として
Math.abs( a - b ) < a * 1.0E-5
絶対誤差による比較
たとえば、１０^-10 あたりの数値に対して
Math.abs( a - b ) < 1.0E-20
また、たとえば１０⁵ 近辺の数値に対して
Math.abs( a - b ) < 1.0E-5

といったような比較が必要となります。

大小比較も同じ問題が発生しますので、まず上記のいずれかの方法で「等しい」場合を判定し、それ以外の場合について「 < 」や「 > 」で判定するのがよいでしょう。