- PR -

アウトオブオーダーについて

投稿者投稿内容
ベテラン
会議室デビュー日: 2005/05/16
投稿数: 85
お住まい・勤務地: 千葉県在住
投稿日時: 2007-03-08 08:10
未だに「ある数値計算ライブラリー」の正体や「a+b+c」のそれぞれの型が何なのか
情報が出てきませんね・・・
引用:

毎回まったく同じ答えにはなりません。有効桁内では一致しているので、計算結
果としては問題ないのですが、末尾までピッタリと一致することはありません。


って事から、アウトオブオーダー云々は全然関係なく、浮動小数点の問題な気がします。

スキルアップ/キャリアアップ(JOB@IT)