2020-05-20

ハードウェア演算が行えるfloat処理は何Bit? たとえば32bitとか80bitとか

  • SSE2なら32bit×4で128bitやで^^

  • 浮動小数点数というのは富豪とテスタロッサとマンティッサで構成された数なので、何bitかはお前がどう回路を組んだかによる

記事への反応(ブックマークコメント)

ログイン ユーザー登録
ようこそ ゲスト さん