2015-10-31

http://anond.hatelabo.jp/20151030231312

1を1.0にする仕事 ありまーす。



いくつかのプログラミング言語では、数字整数浮動小数かで計算結果が変わります

変数 a = 1/3

これを実行すると、a = 0 になってしまます

整数の1 と整数の3 の割り算で、結果を自動的四捨五入した整数にしてしまうためです。

ところが、

変数 a = 1.0/3

このように 1を1.0 と描き直すと、

浮動小数の1 と整数の3 の割り算となって、結果は a = 0.333333... と変わります


プログラマは、毎日こういう仕事をしているので、ハロワで探してみてください。

記事への反応 -
  • 0を1にするような力も、1を2にするような力もない。 だけど、この1が1.1でも0.9でもなく1.0であることを確かにすることはできる 1を1.0000000000000000000000000にしたところで誰も褒めてくれない...

記事への反応(ブックマークコメント)

ログイン ユーザー登録
ようこそ ゲスト さん