GPUはキャッシュ前提で作られている。例えばゲームだとキャラクターCGは使いまわし、シーン切り替えするまでキャッシュが効く。メモリ局所性あり AIは、画像だと空間、文章だと文脈...
ゲームで使うのはキャッシュじゃなくてVRAMでしょ。AIも巨大なパラメータと途中計算結果をVRAMに置く。並列度の高い演算部とVRAM間の帯域が重要なので特殊なDRAMが使われる。入力データ...
GPUにもキャッシュはあるやで
dGPUにあるのは知ってるけど増田はその意味で書いてなさそうだったから
テクスチャ使いまわしは効果あるやで テクスチャアトラスってそういうもんや