- PR -

数値が近似値？に変換されてしまいます（Oracle接続)

«前のページへ 1|2
投稿者投稿内容
shimix
ぬし
会議室デビュー日: 2004/08/05
投稿数: 512
お住まい・勤務地: 大分市
投稿日時: 2006-11-02 15:04
引用:

しかし、0.02だと問題ないです。

7.02と0.02でどう違っているか考察されてみましたか？有効桁数ということからいえばかなり違う数字だと思いますけど。

＃小数点が基準ではないです＞誤差。

元の値に対して一定の誤差はあるけど、表示が整数部1桁からなので落とされてしまってるんでしょうね。

[ メッセージ編集済み 編集者: shimix 編集日時 2006-11-02 15:08 ]
Jitta
ぬし
会議室デビュー日: 2002/07/05
投稿数: 6267
お住まい・勤務地: 兵庫県・海手
投稿日時: 2006-11-02 21:55
引用:

hasamarujpさんの書き込み（2006-11-02 14:10）より：
（金額をDouble型のフィールドで管理したため、
消費税が狂う、っていうのは知っています。）

Double で管理すると、なぜ狂うのですか？

　現象を知っているのと、原因を知っているのは違います。今、現象はご存じですが、原因をご存じでないために、同じ原因でおこる他の現象が、不思議に映っているのです。

引用:

VB.NET上で列TYPEをDoubleにしたデータセットを
作成したところ、7.02もそのまま表示されます。

　7.02000...5 を、小数点以下6桁で丸めると、7.02 になりますよね。そういうことです。

引用:

こういう問題が発生する可能性があるのなら、
そもそもODACがきちんとDecimalに変換してくれればいいのに．．．。

　どこまでの桁が必要なのか、それを知っているのは人じゃないですか？
と、思ったのですが、16.2 は Decimal なのか。何でだろう？マニュアルに聞いてみました？

_________________
くさいくろう
会議室デビュー日: 2006/11/02
投稿数: 12
投稿日時: 2006-11-02 23:47
以前にも小数点で類似スレがあったな。

件名：490/4.9=99.99999
«前のページへ 1|2

スキルアップ／キャリアアップ（JOB@IT）