目次> 第７章> 7.6 TOPUPPREVNEXT

7.6　スケールの異なる値の間の計算

絶対値が大きいデータと小さいデータが混在する場合、 絶対値の小さいものから順に計算を行うと精度が上がります。
通常の計算では発生しない例ですが、たとえば配列 fltval に 

         fltval[0] =  1000000.0
         fltval[1] =   200000.0
         fltval[2] =    30000.0
         fltval[3] =     4000.0
         fltval[4] =      500.0
         fltval[5] =       60.0
         fltval[6] =        0.01
         fltval[7] =        0.01
         fltval[8] =        0.01
         fltval[9] =        0.01
         fltval[10] =       0.01
         　から
         fltval[4999] =     0.01
         fltval[5000] =     0.01
という値が入っている場合、 後ろから順に足したほうが正確な値が求まります。 というか、
前から順に足すか、後ろから順に足すかで異なる値が求まり、 どちらを採用すべきか判断が必要になります。

プログラム CompFloat2.java

実行結果
実行結果

更新日：2012/04/02 TOPUPPREVNEXT