■AI向けハード、仮想メモリ、キャッシュとか、あまり意味なくなってる？

今のAIモデルだと、VRAMに載らないと動かせない。

VRAMの仮想メモリもないので、遅くなるけど動く、というのはなく、すぐに載らない。

ゲームだと、キャラクターのデータはキャッシュに載せておけばヒットするが、AIモデルはそもそもキャッシュより大きいし、

メモリの局所性なんてのもないので、純粋にメモリ帯域勝負。

Permalink | 記事への反応(0) | 20:35

ツイートシェア