- PR -

BigDecimalの有効桁数について

1
投稿者投稿内容
ペーぺー０１
常連さん
会議室デビュー日: 2005/05/29
投稿数: 45
投稿日時: 2005-12-18 17:49
おつかれさまです。
BigDecimalを使用して有効桁数制御を行おうと考えています。
そもそもBigDecimalは整数部・小数部何桁まで、値の保持が可能なのでしょうか？
とても初歩的な問題で申し訳ありませんが、ご回答よろしくお願いいたします。
coasm
大ベテラン
会議室デビュー日: 2001/11/26
投稿数: 237
投稿日時: 2005-12-18 18:59
指数部の値は、32ビット符号付整数の範囲に制限されます。
仮数部の桁数の原理的な上限は実際には無意味で、実質的にはメモリー容量で制限されます。

「BigDecimalで保持できない値」に達する以前に、普通はメモリー容量が問題になります。
現実的な演算時間で処理できる桁数は、それより遥かに小さいでしょうが・・・

1

スキルアップ／キャリアアップ（JOB@IT）