「グラフィックスパイプライン」を含む日記 RSS

はてなキーワード: グラフィックスパイプラインとは

2024-08-24

機械学習コンピュータサイエンスの顔していながら、全然コンピュータに優しくないよな

画像を離散コサイン変換で、とか、仮想メモリ使いつつもキャッシュヒット率いかに上げるかとか、そういうのから機械学習って遠い。

メモリ局所性なんぞないかキャッシュなんてメモリアクセスレイテンシ隠蔽くらいにしかなってないし、

メモリは帯域はあればあるだけ、容量もあればあるだけ、

Flash AttentionでようやくDRAMへのアクセス減らそうとかあるけど、コンピュータ構成無視

いかに長い文脈認識させられるかになってデータ局所性なんてなくなって、どれだけ複雑な計算データ量を食わせるかになっている。


今までのHPCも同じでコンピュータサイエンスだと言われれば、そうなんだが


GPU使ってながらも、グラフィックスパイプラインみたいなのを、AIレイヤー層ごとに作れているわけでもないし。


 
ログイン ユーザー登録
ようこそ ゲスト さん