ホーム ] PC技術/システム技術 ] VB.NETプログラミング ] なるほどナレッジ ] インフォメーション ]

上へ
関数共通仕様
システム変数
定数
符号変換
関係演算
丸め演算
加減算
乗算
除算/逆数
整数除算/剰余算
平方根/立方根
階乗算
指数関数
対数関数
三角関数
逆三角関数
双曲線関数
逆双曲線関数
階乗評価関数
級数評価関数
ニュートン評価関数
演算時間評価関数

UltraMath

丸め演算

最終更新日:2006/06/10 仕様変更

●概要

 指定した桁数までの丸めを行う。切捨てと四捨五入がある。

●関数仕様

○切捨て

Trunc(ByRef A As UltraLong, Optional ByVal Digit As Integer = 0) As UltraLong

Digit は、数値の頭からの桁数を意味し、その桁数までを、新しいUltralongとする。デフォールトは、0で、その時の精度桁となる。Digit+1 以降は切り捨てられる。数値の実桁数が、Digit 以下の場合は、A がそのまま返される。

<用例>

 A = 12.123456789123456789 で、

  Trunc(A, 5) は、12.123 となる。

  A = 987654321 で、

 Trunc(A, 4) は、987600000 となる。 

○四捨五入

Round(ByRef A As UltraLong, Optional ByVal Digit As Integer = 0) As UltraLong 

 Digit は、数値の頭からの桁数を意味し、その桁数までを、新しいUltralongとする。デフォールトは、0で、その時の精度桁となる。Digit+1 は四捨五入される。数値の整数桁が、Digit 以上の場合は、A がそのまま返される。 四捨五入の演算は、絶対値で行われる。

<用例>

 A = 123456.7891234567 で、

  Round(A, 15) は、123456.789123457 となる。
   Round(A, 5) は、123460 となる。

  数学関数などでは、公称精度より10数桁程度精度は落ちているので、それを考慮してRoundすれば良い。