目次> 第7章> 7.5 | TOPUPPREVNEXT |
たとえば、有効数字5桁のデータを扱っている場合、
12.345 − 12.344
の結果は 0.001 と表現されます。
しかし正確には、 12.3445 〜 12.3454 を 12.345で表し、 12.3435 〜 12.3444 を 12.344で表していますから、 引き算の結果は、0.0001 〜 0.0019 の範囲にあると考えられます。
扱っているデータのスケールを考えると、−0.002〜0.002
の範囲の値はゼロとみなすべきで、今後の計算では、
この数で割り算をおこなってはいけないことが判ります。
このような計算がおこるのは稀ですが、たとえば2直線の交点を求める公式に
ほとんど平行な直線をあてはめたりすると発生します。
計算機では、ゼロで割った場合には その旨を検出しますが、ゼロにどんなに 近くてもゼロでない場合は、何も言わずに計算を続けますので注意が必要です。
更新日:2012/04/02 | TOPUPPREVNEXT |