- PR -

vb.netでの"."について

投稿者投稿内容
uniqque
常連さん
会議室デビュー日: 2005/03/18
投稿数: 43
投稿日時: 2005-04-05 12:23
アドバイスありがとうございます。

>もし、本当にやりたいことが「実数を整数化する」であれば、Mathクラスを使うのですが???

はい、そのとおりです。"."までの数値を取得したいんです。
VBでのMathクラスってToInt()とかですよね?
例えば123.123456789012などの数値があって、
これを整数123にしたい時に、"."以下の桁が多すぎてオーバーフロー?
になるのではないかと思い、"123.123456789012"の文字列として"."以下を
取り除こうと思ったのです。
もしかして大丈夫だったりするのでしょうか。
初歩的な事ばかりですいません・・。
NAL-6295
ぬし
会議室デビュー日: 2003/01/26
投稿数: 966
お住まい・勤務地: 東京
投稿日時: 2005-04-05 12:31
Decimal.Truncate(Value)
で整数部だけ取得できますよ。
_________________
「伝える」とは「人に云う」と書く。
http://d.hatena.ne.jp/NAL-6295/
uniqque
常連さん
会議室デビュー日: 2005/03/18
投稿数: 43
投稿日時: 2005-04-05 13:05
NAL-6295さんありがとうございます。

>Decimal.Truncate(Value)
>で整数部だけ取得できますよ。

整数部だけ取得することができましたが、
桁が大きい場合に変な値に変換されているようでした。
2進や16進の小数部切捨てはさっきの処理を行い、
10進の場合だけこのメソッドを使うようにしてみます。
ありがとうございました。

スキルアップ/キャリアアップ(JOB@IT)