■四捨五入、切り捨て、切り上

↓こういう処理をやってるシステムがあるのだけど

• 四捨五入→整数化(値 + 0.5)
• 切り捨て→整数化(値 + 0.1)
• 切り上→整数化(値 + 0.9)

↓正解はこうだよな。

• 四捨五入→整数化(値 + 0.5)
• 切り捨て→整数化(値 + 0.0)
• 切り上→整数化(値 + 0.9999…)

10年位まえからあるシステムなのだけど、誰も気づかないのかな。

オレも指摘する勇気なくて気づかないフリするから、みんなそうなのかもしれない。

Permalink | 記事への反応(0) | 00:03

ツイートシェア