ホーム ] Enum列挙体 ] MegaLong構造体 ] MegaPrecisionクラス ] FFTクラス ]

上へ
公称精度/定数
関係演算
加減算
乗除算
数学関数-1
数学関数-2
数学関数-3
数学関数-4
予測関数

MegaPrecisionクラス

関係演算

最終更新日:2007/04/26  追加

●概要

 二つのMegaLong値の大小関係、一致度合いなどを検査する。

●大小関係

 結果は、MegaRelation で示される。

Comp(ByRef A As MegaLong, ByRef B As MegaLong) As MegaRelation

 A と B を比較して、結果をMegaRelation にて返す。

CompAbs(ByRef A As MegaLong, ByRef B As MegaLong) As MegaRelation

 |A| と |B| を比較して、結果をMegaRelation にて返す。

●一致演算

HowEqual(ByRef A As MegaLong, ByRef B As MegaLong) As Integer

  A、Bの値が、どの程度頭から一致しているかを返す。戻り値は、

  • -2       符号、指数部などが異なり、全く違う値であった。 あるいは少なくとも一つが、NaN あるいはOverflowであった。
  • -1       符号、指数部は同じであるが、仮数部は一致しなかった。
  • 0         完全一致(符号、指数部、仮数部が全て一致、0 同士も含む)
  • 1以上 符号、指数部は同じで、頭からその数だけ桁が一致していた。

<注意>

 この関数では、例えば、0.5 と、0.4999999999・・・・・・・・999999 を比較しても、回答は0となってしう。このような場合は、次の関数を使用する。

Difference(ByRef A As UltraLong, ByRef B As UltraLong) As Integer

 A - B を演算し、その差の指数部を返す。この演算は、Subt(A, B).Exponent と同じ。