整数リテラルの前にゼロを付けると8進数に注意：JavaTips 〜Javaプログラミング編

[平野正喜，＠IT]

　Javaに限らず、プログラムの世界における実数計算には誤差がつきものです。この誤差を解消する手段として、小数点以下の桁数に合わせて10の桁数乗を掛けて整数化する方法があります。しかし、この時、最上位の0を消し忘れると予期せぬ結果になるので注意が必要です。

　例えば、実数のリテラル「3.11」、「1.12」、「0.77」の加算結果（回答は「5.0」）を表示するプログラムがあるとします。

画面1　実数計算の場合は結果が「5.0」

　3つの実数リテラルをそれぞれ100倍して整数にして加算し、表示するときに実数に戻してみたのですが、「4.86」という予期せぬ計算結果になってしまいました。

画面2　整数計算にしたら「4.86」という異なる結果に

　どうして0.14もの誤差が出てしまったのでしょうか。

原因は整数リテラルの3つの表記方法

　この現象が起こる原因は、Javaの整数リテラルの表記方法に10進数、16進数、8進数の3つが存在していることにあります。整数リテラルの前に「0x」または「0X」をつけると16進数になることは良く知られていますが、整数リテラルの前に「0」をつけると8進数になることは知られていなかったり、忘れがちです。今回は「077」が8進数だと解釈されて、10進数の63として加算されてしまったわけです。そこで、先頭のゼロを削ると正しい値になります。

画面3　正しい結果

　なお、8進数では数字の「0」から「7」までしか使いませんので、「081」などと表記すると8進数として不正になるため、意味の分かりづらいコンパイルエラーになってしまいます。先頭のゼロに注意しましょう。

画面4　8進数として不正というコンパイルエラー

Profile

RunDog.org

平野正喜