  |
はてなキーワード: Nvidiaとは
NVidia が消費者の意向に沿ったチップ開発ねぇ...？むしろ、他所が失敗しすぎなんよな。それに、nForce といったチップセットビジネスや、スナップドラゴンのようにクオルコムの牙城を崩せたかね？
当初はGPUとして開発され、事実上開発の失敗からオマケ程度までスケールダウンされたPS3のSPEは今のNVIDIA製GPUの原始的な形そのものだし、
当時すでにGPUは存在したし、GPUを他の目的に使用する行為(GPGPU)も行われていた。機械学習に使われ始めたのは2010年くらいからだと思うけど。
ちなみに、SPEはGPUをスケールダウンしたものではなく、計算に特化したCPUを複数載せようという設計思想なので、今の膨大なコアで行列演算をぶん回す戦場では勝てない。メニーコアCPUはそれはそれで発展する余地はあったと思うけどね。
「ベクトル型とスカラー型のハイブリッド」とはGPUを複数機搭載したサーバーそのもの。つまりきわめて大ざっぱに言えば基本設計は十年以上先のトレンドを正しく捉えている。が、どちらも実際の開発や予算の都合に失敗しているし、NECのベクトル型スパコンなど需要はゼロだった。
日本がハードウェア部門で存在感を示すには、GPUの開発に研究費をぶっ込む必要があったわけだが、GPUのような不真面目な分野には研究費が出なかっただろうな(偏見)
結局のところ2003年から2011年頃までいちばん延べ計算量が必要だったのはリアルタイムの3Dグラフィックスのレンダリングだったんだ。そこではNVIDIAって会社がPCゲームのプラットフォームを握ってしまっていてそこで技術開発をめっちゃ進めてしまったんだ。
結果的にPlayStation2までは純日本設計だったグラフィックチップが、PlayStation3ではNVIDIAのGPUになってしまったんだ。そこで負けが確定してしまった感じだ。PlayStation3のCPU、CELLに内蔵されているSPUは、世代をどんどん進めていったら最終的にレンダリングもできるグラフィックチップに進化する可能性があったのかもしれないけど次世代が出せなかったのでそこで終わりになってしまった。
NVIDIAは先端を走っているユーザーが何を求めているかをめちゃくちゃちゃんと調査して、彼らがちゃんと新しいことを効率よくできるようなチップを開発してくるんだ。だからハードウェアTLが必要になってきたときにGeForceを出してきたし、その後ポリゴンへの複雑なマッピングを駆使してリアルなグラフィックスを構築しだしたらシェーダアーキテクチャを提案してきて、そのシェーダプログラミングでレイマーチングを遊びでみんながやりだしたらリアルタイムレイトレをハードウェアでサポートしたRTXをリリースしてきたしAIもそうだ。いまコンピュータを使っているユーザがどのようなことをやって、次に何が求められているのかを見極めるのが上手なんだと思う。
京の事業仕訳けの議事録を再度読み返したけど、確かにそこにはスーパーコンピュータのユーザーを見ておらず「国民に夢を与える、あるいは世界一を取ることによって夢を与えることが、実は非常に大きなこのプロジェクトの１つの目 的 」などとボケたことを言っている説明者たちと、いやいや実際のユーザはそんなのを求めてるわけないだろという金田先生の議論がつづいていて、そのへんが日本が負けた原因なんじゃないかなあーって思うんだよ。
ただ運も味方していて、NVIDIAが計算能力をバカみたいに使うグラフィックスを提案して微妙な感じになってたところに、ビットコインのマイニング需要があって、そのあとにAIが盛り上がった。計算能力をうまく価値にしてくれる応用がいい感じに出てきていまに至ってるんで、とりあえずやってみて一位とってみろよ、みたいな話が必ず悪いわけではないかもしれない。
Intelは偉くて、GPUでNVIDIAやATI(現AMD)に完全に負けていて後塵を拝していたにもかかわらず、じわじわとCPU内蔵のグラフィックチップの性能を上げていきディスクリートGPUも作るようになり、昨年ちゃんとその成果が世界2位のAuroraスーパーコンピュータとして実稼働を始めてたのですごいなと思ったよ。そのAuroraはGPUもCPUもIntel製で2位、1位のFrontierはGPUもCPUもAMDなんだけどね。結局のところ一般用途で台数が出てない状態ではスパコンを作れるような技術も養成できないってことだったんだろうと思う。
当時の日本では携帯電話向けのプロセッサしか数が出るものがなかったから、そこに全力投球して、でもガラケーではグローバルに売れないからPDAに販路を広げてiPhoneやAndroidに採用してもらう、みたいな流れができれば最高だっただろう。でもそんな戦略を説明して実行に移せるトップが日本の家電メーカーのトップには居なかったんだ。だってあいつらテレビやブルーレイをどう売るかしか考えてなかったんだもん。PocketPCに載ってたIntelのXScaleが没落したときを狙ってちゃんとチップを出せてればチャンスがあった。でもそこに載ったのはSamsungやTI、そしてQualcommのチップだった。TIは撤退してしまったけどSamsungはまだプロセッサを作り続けている(これはGalaxyという大きな需要があるからできているのだと思う)。
NVIDIAみたいに売れてれば間違いなく勝てた。売れる物を作らない、作った物を売らないから負けた。当時の日本の常として外部要因や部外者、つまり売上と顧客を効率的に排除したから滅んだ。
当初はGPUとして開発され、事実上開発の失敗からオマケ程度までスケールダウンされたPS3のSPEは今のNVIDIA製GPUの原始的な形そのものだし、「ベクトル型とスカラー型のハイブリッド」とはGPUを複数機搭載したサーバーそのもの。つまりきわめて大ざっぱに言えば基本設計は十年以上先のトレンドを正しく捉えている。が、どちらも実際の開発や予算の都合に失敗しているし、NECのベクトル型スパコンなど需要はゼロだった。
いま「時価総額世界ナンバーワン」を標榜しているNVIDIAのスパコンと、NECが当時作っていたスパコンはまったく同じものなのに、00年代末期の日本が作ればそれは「失敗の象徴」にしかならない。そしてそのことを誰も知らない、理解しない。つまり日本の問題はそこにあって、その差について反省ができていない所にある。
本日、夫婦の金融資産が1000万を超えたことを知り、夫と喜びを分かち合った。
出会った当初、夫は18歳、私は21歳だった。あれから5年が経ち、資産は300円から1000万超えとなった。
DVから逃げてきて鬱で動けなくなっていた頃の夫が懐かしい。今ではトラウマ治療（EMDR）の甲斐あってか、そんな影すら見えない超健康優良児？となった。まあもう"児"って歳でもないか。それだけの月日が経った。
私は高卒で働いて大学受験を志していた君に仕送りしたりして、君は給付型奨学金を稼ぎながら生活を極限まで切り詰めて投資資産を捻出し、お互いによく頑張ったね。
dマガジンという雑誌読み放題的なアプリで、何冊か10年前の雑誌が読める特集が開催されている。
そこで自分は週刊アスキーを選んだのだが、あまりの懐かしさと、今の週刊アスキーの内容ペラペラさが浮き彫りになって泣けた。
以下が10年前の週アスコンテンツだったので、みんなにも懐かしんで欲しい。カッコ内は自分の感想。
【表紙】
【今週のイチオシ！】
NVIDIA GeForce GTX980（このとき株を買っておけばなー）
【NEWSROOM】
iPhone6発売開始 予約は100万台規模か? 一方で転売問題も（表紙にも画面写真が載っているのだが、アプリアイコンのデザインが古くて笑える）
【速報】
スマホに負けるなが合言葉だ!! Photokina2014現地レポート（最近炎上したLUMIXのコンデジが大々的に取り上げられている。ミラーレス前夜か）
【特集】
・サイズは？ 速度は？ SIMフリーは？ iPhone6完全レビュー（iPhone5との比較。かなり薄くなったんだなーと思えた）
・女子高生&女子大生に学べ 自撮り名人のマル秘テク8（これは面白かった。スマホでいかに「盛る」かなので今でも通用するかも）
・大容量で速いのが欲しい SD&マイクロSDカード最速決定戦（大容量＝32GBで2万2900円（東芝）がコスパ最強と言われていて草。10年でかなり進化したんだなと）
・え、それってどういうこと？（聞き手 進藤晶子） ゲスト 石戸奈々子（こんな対談記事あったなー）
・カオスだもんね！（懐かしくて涙。水口先生もこの世にいないんだよなあ。回自体は地味な回だった）
・東京トホホ会（結構好きだった。ログインでもおなじみだった金井哲五郎）
・占い（福田先生。ページシェア率では今の週アスの一大コンテンツなのだけど、この時代は半ページだった・・・）
・漫画（イコとナセミのドキドキアドベンチャーという漫画だった。パーツのパのイメージが強かったけど、もう終わっていたみたい）
・クロスレビュー（ファミ通みたいなクロスレビュー。エプソンダイレクトのタブレットが取り上げられてて、こんなんあったんだなあ、と）
その他では、ニコニコのランキングとか、iPhoneアプリランキングが載ってた。普通のTO DOアプリが一位で時代を感じる。まだiOSにタスク管理が搭載されていなかったんだな。
X (twitter) で SITUATIONAL AWARENESS: The Decade Ahead https://situational-awareness.ai/ というのが回ってきて非常に示唆に富むものだったので、DeepL (無料版 API経由) で訳してみた。
この1年で、街の話題は100億ドルのコンピュート・クラスターから1000億ドルのクラスター、そして1兆ドルのクラスターへと移り変わってきた。半年ごとに、役員室の計画にまたゼロが追加される。その裏では、残りの10年間に利用可能なすべての電力契約と、調達可能なすべての電圧変圧器を確保しようとする熾烈な争いが繰り広げられている。アメリカの大企業は、アメリカの産業力を結集させるために、何兆ドルもの資金を注ぎ込む準備を整えている。ペンシルベニア州のシェールフィールドからネバダ州の太陽光発電所まで、何億ものGPUが稼働する。
AGI競争が始まったのだ。私たちは思考し、推論できるマシンを作りつつある。2025年から26年にかけて、これらのマシンは多くの大学卒業生を凌駕するだろう。10年後までには、これらのマシンは私やあなたよりも賢くなり、本当の意味での超知性を手に入れるだろう。その過程で、この半世紀には見られなかったような国家安全保障の力が解き放たれ、やがて「プロジェクト」が始動する。運が良ければ、中国共産党との全面的な競争になり、運が悪ければ全面戦争になる。
今、誰もがAIについて話しているが、何が自分たちを襲おうとしているのか、かすかな光明を感じている人はほとんどいない。Nvidiaのアナリストは、まだ2024年がピークに近いと考えている。主流派の評論家たちは、「次の言葉を予測するだけだ」という故意の盲目に陥っている。彼らが見ているのは誇大広告といつも通りのビジネスだけで、せいぜいインターネット規模の新たな技術革新が起こるのを楽しむ程度なのだ。
やがて世界は目を覚ますだろう。しかし、今現在、状況認識を持っているのはおそらく数百人で、そのほとんどはサンフランシスコとAI研究所にいる。運命の不思議な力によって、私はその中に身を置くことになった。数年前、このような人々はクレイジーだと揶揄されたが、彼らはトレンドラインを信頼し、過去数年間のAIの進歩を正しく予測することができた。この人たちが今後数年についても正しいかどうかはまだわからない。しかし、彼らは非常に賢い人々であり、私がこれまでに会った中で最も賢い人々である。おそらく、彼らは歴史の中で奇妙な脚注となるか、あるいはシラードやオッペンハイマー、テラーのように歴史に名を残すだろう。もし彼らが未来を正しく見ているとしたら、私たちはとんでもないことになる。
各エッセイはそれぞれ独立したものですが、シリーズ全体として読むことを強くお勧めします。全エッセイのPDF版はこちら。
2027年までにAGIが実現する可能性は極めて高い。GPT-2からGPT-4までの4年間で、私たちは～未就学児から～賢い高校生までの能力を手に入れた。計算能力（～0.5桁またはOOMs/年）、アルゴリズム効率（～0.5OOMs/年）、および「趣味のない」向上（チャットボットからエージェントへ）のトレンドラインをトレースすると、2027年までに再び未就学児から高校生サイズの質的なジャンプが起こると予想される。
AIの進歩は人間レベルでは止まらない。何億ものAGIがAI研究を自動化し、10年に及ぶアルゴリズムの進歩（5以上のOOM）を1年以下に圧縮することができる。私たちは、人間レベルから超人的なAIシステムへと急速に進化することになる。超知能の威力と危険性は劇的なものとなるだろう。
驚異的な技術資本の加速が始まっている。AIの収益が急増するにつれ、10年末までに何兆ドルもの資金がGPU、データセンター、電力の増強に投入されるだろう。米国の電力生産を数十％増加させるなど、産業界の動員は激しくなるだろう。
米国の主要なAI研究所は、セキュリティを後回しに扱っている。現在、彼らは基本的にAGIの重要な機密を銀の皿に載せて中国共産党に渡している。AGIの秘密とウェイトを国家機関の脅威から守るには膨大な努力が必要であり、我々はその軌道に乗っていない。
我々よりもはるかに賢いAIシステムを確実に制御することは、未解決の技術的問題である。解決可能な問題ではあるが、急速な知能の爆発が起きれば、物事は簡単にレールから外れてしまう。これを管理することは非常に緊張を強いられるだろう。
スーパーインテリジェンスは、経済的にも軍事的にも決定的な優位性をもたらすだろう。中国はまだゲームから抜け出してはいない。AGIをめぐる競争では、自由世界の存亡がかかっている。我々は権威主義的な大国に対する優位性を維持できるのか？そして、その過程で自滅を避けることができるのだろうか？
AGIへの競争が激化するにつれ、国家安全保障が関与してくる。アメリカ政府は眠りから覚め、27～28年までに何らかの形で政府によるAGIプロジェクトが立ち上がるだろう。どんな新興企業も超知能を扱うことはできない。SCIFのどこかで、終盤戦が始まるだろう。
もし我々が正しかったら？
――――――――
私はかつてOpenAIで働いていたが、これはすべて一般に公開されている情報、私自身のアイデア、一般的な現場知識、あるいはSFゴシップに基づいている。
Collin Burns、Avital Balwit、Carl Shulman、Jan Leike、Ilya Sutskever、Holden Karnofsky、Sholto Douglas、James Bradbury、Dwarkesh Patel、その他多くの方々の有益な議論に感謝する。初期の草稿にフィードバックをくれた多くの友人に感謝する。グラフィックを手伝ってくれたジョー・ローナン、出版を手伝ってくれたニック・ウィテカーに感謝する。
続き I.GPT-4からAGIへ：OOMを数える(1) https://anond.hatelabo.jp/20240605203849
Nintendo Switchの次世代機の話があったが、任天堂がこだわる「新しい遊び」の部分は正直想像がつかないので楽しみに待つことにして、性能的な部分での予想をすると、一番重要なのはプロセッサをどうするかという点だ。
現在のNintendo Switchで使われているのはNVIDIAが設計したTegra X1というプロセッサのモディファイ版だと言われていて、当初は20nm、2019年ごろに登場した省電力版では16nmプロセスが使われていると言われている。
ARMコアにNVIDIAのGPUを組み合わせたSoCなので、それぞれ年数分の世代の進化に合わせたプロセッサがあればそれを使えばいいだけなのだが、問題はNVIDIAがモバイル向けのSoCをほとんど見捨てていることだ。
Tegra X1後継のSoCはXavier、Orinときて現在はThorという世代が発表されているが、いずれもモバイルやゲーム機向けではなく組み込み・ロボティクス向けのJetsonか車載向けのNVIDIA DRIVEとしてパッケージされている。
Tegraでやったように任天堂専用モディファイとしてプロセッサだけを切り出してSwitch 2に内蔵する可能性もなくはないが、いずれにしてもOrinやThorはバッテリ駆動するには消費電力が高めであるように思われるので、かなりクロックを抑える必要があると思われる。しかしOrinのベンチマークスコアはSwitchに搭載されたTegraの8倍程度はあるようなので、クロックを抑えたとしてもかなりの性能のジャンプアップは見込めるとは思われる。
とはいえNVIDIAのプロセッサの供給状況は不透明なので、任天堂は別の手段を考えているかもしれない。
ひとつは汎用のARMプロセッサとGPUを組み合わせたSoCを使う、つまりSnapdragonやKirinやDimensityを採用する可能性。
スマホ用のプロセッサといえば他にはサムスンのExynosもあるのだが、サムスン製品以外に採用された例がないので候補から外す――しかし実は変化球がある。GoogleのTensorはExynosのモディファイ版なのだ。任天堂とGoogleが提携してTensorを調達して載せる可能性があったりはしないだろうか？
いや、その変化球があるならば、もっと変化球として、アップルのApple Aプロセッサを採用したらいいのではないか？省電力性能もGPU性能も充分だし、任天堂は（故岩田社長が）アップル大好きだったのだから、提携するならアップルのほうが面白いではないか。なんならサムスンファブ製よりTSMCファブ製のほうが熊本方面が喜ぶかもしれない。
そこまで考えて、もしかしたら、任天堂がSwitch 2専用プロセッサを設計して搭載してくる可能性があるんじゃないかと思ってしまった。一億台売れる端末のプロセッサを、外注するより自社で設計したほうがいい、と任天堂なら考えたりはしないだろうか。
https://www.nintendo.co.jp/jobs/keyword/59.html このページなどでも語られているが、TegraのモディファイをするにあたってNVIDIAとはかなり突っ込んだ議論もしているようなので、現在ではSoC全体のデザインができるようになっていたら面白いと思う。
