[ ホーム ] [ PC技術/システム技術 ] [ VB.NETプログラミング ] [ なるほどナレッジ ] [ インフォメーション ]

上へ
公称精度/定数
関係演算
加減算
乗除算
数学関数-1
数学関数-2
数学関数-3
数学関数-4
予測関数

●概要

　二つのMegaLong値の大小関係、一致度合いなどを検査する。

●大小関係

　結果は、MegaRelation で示される。

・Comp(ByRef A As MegaLong, ByRef B As MegaLong) As MegaRelation

　A と B を比較して、結果をMegaRelation にて返す。

・CompAbs(ByRef A As MegaLong, ByRef B As MegaLong) As MegaRelation

　|A| と |B| を比較して、結果をMegaRelation にて返す。

●一致演算

・HowEqual(ByRef A As MegaLong, ByRef B As MegaLong) As Integer

 　A、Bの値が、どの程度頭から一致しているかを返す。戻り値は、

• -2       符号、指数部などが異なり、全く違う値であった。 あるいは少なくとも一つが、NaN あるいはOverflowであった。
• -1       符号、指数部は同じであるが、仮数部は一致しなかった。
• 0         完全一致(符号、指数部、仮数部が全て一致、0 同士も含む)
• 1以上　符号、指数部は同じで、頭からその数だけ桁が一致していた。

＜注意＞

　この関数では、例えば、0.5 と、0.4999999999・・・・・・・・999999 を比較しても、回答は0となってしう。このような場合は、次の関数を使用する。

・Difference(ByRef A As UltraLong, ByRef B As UltraLong) As Integer

 A - B を演算し、その差の指数部を返す。この演算は、Subt(A, B).Exponent と同じ。