[ ホーム ] [ PC技術/システム技術 ] [ VB.NETプログラミング ] [ なるほどナレッジ ] [ インフォメーション ]

上へ
公称精度/定数
関係演算
加減算
乗除算
数学関数-1
数学関数-2
数学関数-3
数学関数-4
予測関数

●概要

　MegaPrecision の演算精度(仮数部の最大有効桁数)を参照/設定したり、その精度の数学定数を得る。

●公称精度

・Precision() As Integer

　公称精度の設定、参照。設定は、64以上で100万以下で、8 の倍数であること。但し、内部で 8 の倍数に置き換えられる。この設定以降の演算が対象となる。

・ExtraPrecision() As Integer

　拡張桁の参照/設定を行う。16 〜 64 で、8 の倍数であること。この設定以降の演算が対象となる。

・TmpPrecision() As Integer

　一時的に演算精度を変更する。この状態では定数は不変なので注意を要する。元に戻す場合は、RestoreTmpPrecision メソッドを使用する。

●定数

　いずれも、参照のみ。初めての参照にて、100万桁の原始定数がバイナリーファイルからロードされる。それ以降は、オンメモリの定数から生成される。

・PI() As MegaLong

　公称精度 + 拡張桁数の π が返される。

また、補助定数として以下がある。いずれも、公称精度 + 拡張桁数である。

・dPI() As MegaLong      2π
・hPI() As MegaLong　　　π/2
・qPI() As MegaLong　　 π/4

・E() As MegaLong

　公称精度 + 拡張桁数の e が返される。

・Ln10() As MegaLong

　公称精度 + 拡張桁数の Ln(10) が返される。

●丸め

・Round(ByRef A As MegaLong) As MegaLong

　A を現在の公称精度 + 1 で四捨五入した値を返す。