目次> 第7章> 7.5 TOPUPPREVNEXT

7.5 桁落ち(有効数字の減少 ― 取扱っているスケールでのゼロ)

たとえば、有効数字5桁のデータを扱っている場合、
    12.345 − 12.344
の結果は 0.001 と表現されます。

しかし正確には、 12.3445 〜 12.3454 を 12.345で表し、 12.3435 〜 12.3444 を 12.344で表していますから、 引き算の結果は、0.0001 〜 0.0019 の範囲にあると考えられます。

扱っているデータのスケールを考えると、−0.002〜0.002 の範囲の値はゼロとみなすべきで、今後の計算では、 この数で割り算をおこなってはいけないことが判ります。
このような計算がおこるのは稀ですが、たとえば2直線の交点を求める公式に ほとんど平行な直線をあてはめたりすると発生します。

計算機では、ゼロで割った場合には その旨を検出しますが、ゼロにどんなに 近くてもゼロでない場合は、何も言わずに計算を続けますので注意が必要です。


更新日:2012/04/02 TOPUPPREVNEXT