今のAIモデルだと、VRAMに載らないと動かせない。
VRAMの仮想メモリもないので、遅くなるけど動く、というのはなく、すぐに載らない。
ゲームだと、キャラクターのデータはキャッシュに載せておけばヒットするが、AIモデルはそもそもキャッシュより大きいし、
メモリの局所性なんてのもないので、純粋にメモリ帯域勝負。
Permalink | 記事への反応(0) | 20:35
ツイートシェア
7
