ホーム ] 概要 ] プログラミング仕様 ] 演算速度 ] 技術解説(システム編) ] 技術解説(四則演算編) ] 技術解説(FFT編) ] 技術解説(数学関数編) ]

上へ
関係演算方式
四則演算方式

技術解説(四則演算編)

関係演算方式

最終更新日:2007/04/26 新規

●概要

 関係演算とは、二つのMegaLong値の比較演算である。

●比較方法

 実際に値を比較することは殆どの場合はない。前提として、正規化された仮数部を持ったMegaLong であること。

○符号付比較

主な手順は、

  1. 少なくともどちらかが、Overflow、NaN であれば、結果は、NA(比較不能)
  2. 双方が、Zero であれば、Equal
  3. 片方が、Zero なら、他方の符号で決定。
  4. 異符号であれば、Positive を大きいとする。
  5. 双方が、Positive であれば、指数を比較し、
  • 大きい方を大とする。
  • 指数が同じであれが、仮数部を比較する。
    • 先頭から比較し、同じでなければ、そこで終了。
    • 同じであれば、次の要素に移る。先に要素がなくなった方が小となる。
    • 同じ要素数で、最後まで同じであれば、Equal

双方が、Negative であれば、上記5. を、絶対値で行い、結果が大小なら反転する。

 ○絶対値比較

 符号を無視して比較する。内部の加減算のとき必要な演算である。

  1. 少なくともどちらかが、Overflow、NaN であれば、結果は、NA(比較不能)
  2. 双方が、Zero であれば、Equal
  3. 片方が、Zero なら、それが小
  4. 双方が、Zero でなければ、指数を比較し、
  • 大きい方を大とする。
  • 指数が同じであれが、仮数部を比較する。
    • 先頭から比較し、同じでなければ、そこで終了。
    • 同じであれば、次の要素に移る。先に要素がなくなった方が小となる。
    • 同じ要素数で、最後まで同じであれば、Equal