アカウント名:
パスワード:
0.1の3倍が0.3にならない(ことがある)言語は使いたくないんだろうな。
#include
main() { if (0.1*3==0.3) puts("equal"); else puts("not equal"); return 0;}
ネタだろうけど浮動小数の問題は別に言語に関わらないだろうと……。
COBOLだと違うらしい。
http://togetter.com/li/761401 [togetter.com]>1円以下を扱うと、普通は浮動小数点数になるからそこで誤差が生じるけど、>COBOLは10進演算で行うことと言語仕様で決まっているから大丈夫という話だと思います。>固定小数点とかでライブラリ書けばいいんでしょうが、それも手間だし。
より多くのコメントがこの議論にあるかもしれませんが、JavaScriptが有効ではない環境を使用している場合、クラシックなコメントシステム(D1)に設定を変更する必要があります。
普通のやつらの下を行け -- バッドノウハウ専門家
精度というか (スコア:0)
0.1の3倍が0.3にならない(ことがある)言語は使いたくないんだろうな。
#include
main() {
if (0.1*3==0.3) puts("equal");
else puts("not equal");
return 0;
}
Re: (スコア:0)
ネタだろうけど浮動小数の問題は別に言語に関わらないだろうと……。
Re:精度というか (スコア:0)
COBOLだと違うらしい。
http://togetter.com/li/761401 [togetter.com]
>1円以下を扱うと、普通は浮動小数点数になるからそこで誤差が生じるけど、
>COBOLは10進演算で行うことと言語仕様で決まっているから大丈夫という話だと思います。
>固定小数点とかでライブラリ書けばいいんでしょうが、それも手間だし。