2020-07-22

anond:20200722173803

CPUGPUを大量に並べて並列で殴る学習収束がゆるやかにでもいい方向に進み続ける学習アルゴリズムさえ見つければ…って感じでロマンあっていいよね

1750億のパラメータはどうあがいてもGAFAMしかできなさそう

それはそれとして、最近自然言語処理界隈全然分からんのだが語族の壁は突破されたんだろうか

壁がある限り日本語日本語データ集めて日本マシン回し続けないとみたいなとこありそう

記事への反応 -
  • はてブでホットエントリーに上がったGPT-3だが、マイクロソフトのデータセンターを使っていて、 85,000のCPU、10,000のGPUと400Gbpsのネットワークで接続されたクラウドを使っていると言われ...

    • CPUやGPUを大量に並べて並列で殴る学習、収束がゆるやかにでもいい方向に進み続ける学習アルゴリズムさえ見つければ…って感じでロマンあっていいよね 1750億のパラメータはどうあがい...

記事への反応(ブックマークコメント)

ログイン ユーザー登録
ようこそ ゲスト さん