アカウント名:
パスワード:
0.1の3倍が0.3にならない(ことがある)言語は使いたくないんだろうな。
#include
main() { if (0.1*3==0.3) puts("equal"); else puts("not equal"); return 0;}
ネタだろうけど浮動小数の問題は別に言語に関わらないだろうと……。
だから浮動小数を使わない言語(処理系)を使うんじゃないですか. 勘定系, 経理系など以外にも, 有効桁管理が必要な実験系データ処理システムなどでも, 浮動小数を使わないシステムがあります.
ネタにしか思えないのは, 世界が小さい証拠です.
COBOLだと違うらしい。
http://togetter.com/li/761401 [togetter.com]>1円以下を扱うと、普通は浮動小数点数になるからそこで誤差が生じるけど、>COBOLは10進演算で行うことと言語仕様で決まっているから大丈夫という話だと思います。>固定小数点とかでライブラリ書けばいいんでしょうが、それも手間だし。
より多くのコメントがこの議論にあるかもしれませんが、JavaScriptが有効ではない環境を使用している場合、クラシックなコメントシステム(D1)に設定を変更する必要があります。
Stableって古いって意味だっけ? -- Debian初級
精度というか (スコア:0)
0.1の3倍が0.3にならない(ことがある)言語は使いたくないんだろうな。
#include
main() {
if (0.1*3==0.3) puts("equal");
else puts("not equal");
return 0;
}
Re:精度というか (スコア:0)
ネタだろうけど浮動小数の問題は別に言語に関わらないだろうと……。
Re:精度というか (スコア:1)
だから浮動小数を使わない言語(処理系)を使うんじゃないですか. 勘定系, 経理系など以外にも, 有効桁管理が必要な実験系データ処理システムなどでも, 浮動小数を使わないシステムがあります.
ネタにしか思えないのは, 世界が小さい証拠です.
Re: (スコア:0)
COBOLだと違うらしい。
http://togetter.com/li/761401 [togetter.com]
>1円以下を扱うと、普通は浮動小数点数になるからそこで誤差が生じるけど、
>COBOLは10進演算で行うことと言語仕様で決まっているから大丈夫という話だと思います。
>固定小数点とかでライブラリ書けばいいんでしょうが、それも手間だし。