■Apple M2にGPUコア横付け+GDDRが良いと思うんだよな

Apple M2 Ultraは2つ同じチップを2つ繋げていたけど、

動画のエンコードを大量に抱える人以外には持て余すようなものだった。

M2の片側はGPUコアを主にして、GPUコア側の3辺に対してGDDRを置く方が良いのではないか。

① CPUコア +GPUコア(最小限)+動画エンコーダなど+DDRメモリ

② GPUコア+GDDRメモリ(or HBMメモリ)

WindowsだとCPUとGPU間の通信がボトルネック。

ゲームだとステージが変わらないと同じシーンは同じテクスチャを使い回せるので、GPU側のキャッシュ効果が効くが、

機械学習で80GBのモデル全部のメモリーアドレス空間を走査していく場合は、キャッシュヒットしなくなる。

（メモリーアクセスの遅延を吸収するだけのバッファのサイズ分は意味はあるはずだが）

Permalink | 記事への反応(0) | 07:40

ツイートシェア