今のCPUとGPU間の帯域が足りない。
NVIDIA GH200 Grace Hopperだと、PCIe5の約7倍の帯域らしい。
サーバーのようにGrace Hopper256枚協調して動作させるっぽいが、自作PCはそこまでいらないので、2枚のオプションとかで出して欲しい。
Permalink | 記事への反応(0) | 19:12
ツイートシェア