[ ホーム ] [ 概要 ] [ プログラミング仕様 ] [ 演算速度 ] [ 技術解説(システム編) ] [ 技術解説(四則演算編) ] [ 技術解説(FFT編) ] [ 技術解説(数学関数編) ]

上へ
関係演算方式
四則演算方式

●概要

　関係演算とは、二つのMegaLong値の比較演算である。

●比較方法

　実際に値を比較することは殆どの場合はない。前提として、正規化された仮数部を持ったMegaLong であること。

○符号付比較

主な手順は、

1. 少なくともどちらかが、Overflow、NaN であれば、結果は、NA(比較不能)
2. 双方が、Zero であれば、Equal
3. 片方が、Zero なら、他方の符号で決定。
4. 異符号であれば、Positive を大きいとする。
5. 双方が、Positive であれば、指数を比較し、

• 大きい方を大とする。
• 指数が同じであれが、仮数部を比較する。
  • 先頭から比較し、同じでなければ、そこで終了。
  • 同じであれば、次の要素に移る。先に要素がなくなった方が小となる。
  • 同じ要素数で、最後まで同じであれば、Equal

双方が、Negative であれば、上記5. を、絶対値で行い、結果が大小なら反転する。

　○絶対値比較

　符号を無視して比較する。内部の加減算のとき必要な演算である。

1. 少なくともどちらかが、Overflow、NaN であれば、結果は、NA(比較不能)
2. 双方が、Zero であれば、Equal
3. 片方が、Zero なら、それが小
4. 双方が、Zero でなければ、指数を比較し、

• 大きい方を大とする。
• 指数が同じであれが、仮数部を比較する。
  • 先頭から比較し、同じでなければ、そこで終了。
  • 同じであれば、次の要素に移る。先に要素がなくなった方が小となる。
  • 同じ要素数で、最後まで同じであれば、Equal