http://d.hatena.ne.jp/shin/20091027/p1
↑ネットでコンピュータの実数演算の誤差の話になると「固定少数なら誤差がでない」みたいなことを言う人を見かけるけど、COBOLのやつとかJavaのBigDecimalは固定少数じゃないし、本当の固定少数は浮動少数と同じくやっぱり誤差が出る。
なんでこういう誤用が広まるんだろう。
大昔は、BCDの多倍長整数やら、固定少数のクラスやら自分で実装したりする人も多かっただろうけど、最近の言語は最初からライブラリについてるから、そのせいかなぁ。
Permalink | 記事への反応(0) | 22:05
ツイートシェア
8
