■8bit浮動小数

1bitが符号で

1bitが指数部とすると

仮数部が6bitとなり、

• 63.0～+63.0までの値が表現できるんだよな。

固定小数点を8bitで表そうとすると

• 12.7～+12.7までしか表現できないので、実に4倍以上の値がスケールするわけだ。

8bitと侮ることなかれ、結構色々できそうだな。

Permalink | 記事への反応(1) | 11:07

ツイートシェア