ホーム ] Enum列挙体 ] MegaLong構造体 ] MegaPrecisionクラス ] FFTクラス ]

上へ
公称精度/定数
関係演算
加減算
乗除算
数学関数-1
数学関数-2
数学関数-3
数学関数-4
予測関数

MegaPrecisionクラス

公称精度/定数

最終更新日:2007/04/26 新規

●概要

 MegaPrecision の演算精度(仮数部の最大有効桁数)を参照/設定したり、その精度の数学定数を得る。

●公称精度

Precision() As Integer

 公称精度の設定、参照。設定は、64以上で100万以下で、8 の倍数であること。但し、内部で 8 の倍数に置き換えられる。この設定以降の演算が対象となる。

ExtraPrecision() As Integer

 拡張桁の参照/設定を行う。16 〜 64 で、8 の倍数であること。この設定以降の演算が対象となる。

TmpPrecision() As Integer

 一時的に演算精度を変更する。この状態では定数は不変なので注意を要する。元に戻す場合は、RestoreTmpPrecision メソッドを使用する。

●定数

 いずれも、参照のみ。初めての参照にて、100万桁の原始定数がバイナリーファイルからロードされる。それ以降は、オンメモリの定数から生成される。

PI() As MegaLong

 公称精度 + 拡張桁数の π が返される。

また、補助定数として以下がある。いずれも、公称精度 + 拡張桁数である。

dPI() As MegaLong      2π
hPI() As MegaLong   π/2
qPI() As MegaLong   π/4

E() As MegaLong

 公称精度 + 拡張桁数の e が返される。

Ln10() As MegaLong

 公称精度 + 拡張桁数の Ln(10) が返される。

●丸め

Round(ByRef A As MegaLong) As MegaLong

 A を現在の公称精度 + 1 で四捨五入した値を返す。