- PR -

PointFの型変換

«前のページへ 1|2
投稿者投稿内容
Ｒ・田中一郎
ぬし
会議室デビュー日: 2005/11/03
投稿数: 979
投稿日時: 2006-08-18 13:07
引用:

なちゃさんの書き込み (2006-08-18 12:37) より:

これってどういう意味（というか意図）ですか…？

元の質問で、サードパーティのソフトでPointF を使用・・・などとあったので、単に、Float型に値を入れた場合の問題ですよ、と言いたかったのです。
object
ぬし
会議室デビュー日: 2002/03/20
投稿数: 338
お住まい・勤務地: 香川県高松市
投稿日時: 2006-08-18 13:43
objectです。

26,063,895,231、26,063,894,528
これらの有効数字は11桁ですが、
本当に、有効数字が11桁必要なのですか？

それから、問題にしている値は、相対誤差が
(26,063,895,231-26,063,894,528)/26,063,895,231≒0.0000027%
になりますが、本当にこの様な精度が必要なのでしょうか？

数値的な処理をする前に、
「数値とその関係の意味」をシッカリ理解していないと、
ユーザーを間違った方向に誘導する事になると思いますよ？
#「意味の無い精密な処理」より「意味のある妥当な処理」の方が重要。(追加)

グラフ処理をするサードパーティは、
恐らく「誤差論」に関する事項を前提にしている(筈)
ですから、

一度、
「誤差論(有効数字、誤差の伝播等)」等
を学ばれる事を私は勧めます。

[ メッセージ編集済み 編集者: object 編集日時 2006-08-18 13:49 ]
toto
常連さん
会議室デビュー日: 2005/10/18
投稿数: 46
お住まい・勤務地: 岡山
投稿日時: 2006-08-18 16:00
グラフなので、0.0000027%の誤差は範囲内ですね。
クライアントに誤差が出ることを相談しました。
皆様ありがとうございます。

引用:

objectさんの書き込み (2006-08-18 13:43) より:

一度、
「誤差論(有効数字、誤差の伝播等)」等
を学ばれる事を私は勧めます。

[ メッセージ編集済み 編集者: object 編集日時 2006-08-18 13:49 ]


その様な理論があるんですね。。。存在する知らなかった。

面白そうだけど、難しそう。。。
でも、折角なので勉強してみます。
ありがとうございます。
«前のページへ 1|2

スキルアップ／キャリアアップ（JOB@IT）