はてなキーワード: インテルとは
よくわかんないけど、微妙に古い認識で「NVIDIAとインテルとIBMはどうして差がついてきたのか、あるいは富士通「富岳」CPUが民間普及しなかったのは何故か」とかどや顔執筆したら
反論されたけど言い返せないんで焦ってるんじゃ無いですか。
NVIDIAと、インテル・IBMはどうして差がついたのか、疑問に思う。
AIはニューラルネットワークを模倣していると言われ、ニューロモーフィックというチップを、IBMは作り、その後、メンバーが移籍してインテルも作った。
現在、ニューラルネットワークとは違うものになったが、勝っているのはNVIDIAになっている。
先日、1.58bitのBitNetが話題になったが、LLMではないが昔BinaryConnectで0.68bitまで下げる案を出したのもIBMのメンバーだ。
ハッカーニュースでBitNetについてIBMだった人がコメントしている。IBMはそれなりに早かったはずだ。
https://news.ycombinator.com/item?id=39544500
普通のGPUの会社だと、ゲーム用のGPUボードだけを作っていたと思うが、NVIDIAは色々と手を出している。
データ プロセシング ユニット (DPU)、InfiniBand、NVIDIA MetroXなど、
HPC向けで、インテルやAMD、IBMの方が得意だろうという分野まで手を出した。
RTX 4090はゲームするにはバカ高いがAI向けには性能不足で、単価が高いAI向けボードを売るという差別化も出来ている。
ファブレス企業だから、というだけでは説明不足で、TSMCにNVIDIA向けのカスタムプロセスを作らせることが出来ている点が差別化要因の1つだろう。
TSMCから出てくるデザインルールの通りにしか作らないと、どこの会社も似たりよったり性能になってしまう。
物理限界を他社(TSMC)に投げてしまうというのも、経営としては効いているのだろう。
そして物理限界のチップサイズを攻める。電力も物理限界を攻める。
日本の会社だと、電力のバカ食いで怒られるが、そこも攻めている。
インテルはGPUカードに参入したが、AI向けだけに限定した方が良かったのではないだろうか。
中国GPUメーカーがコケているのに対して、動いているだけでも流石インテルなのだが、競争力のあるGPUとは言えず、参入した意味とは?になってしまっている。
量産ではない先端プロセスは持っているし、特殊なチップも作れている。
CPUについてはPower関係の資産もあり、AI向けもユニークなのが作れているのに、ぱっとしなくなった。
RISC-Vが上手くいくのであれば、OpenPowerも上手くいくと思うのだが、そういう話も聞かない。
そもそも米中関係で、オープンソースのCPU/GPUが禁輸されそうな感じもしている。
結局、量子コンピュータについてもまだまだ先になりそうな雰囲気だ。
未だに「謎の半導体メーカー」程度の認識の方になぜNVIDIAが時価総額世界4位なのかをあれこれ説明する必要があるので短めにメモ。半導体業界のすみっこの人間なので機械学習まわりの説明は適当です
・~1993年 AI冬の時代。エージェントシステムがさほど成果を挙げられなかったり。まだ半導体やメモリの性能は現代とくらべてはるかに劣り、現代のような大規模データを用いた統計的処理など考えられなかった。2006年のディープラーニングの発明まで実質的な停滞は続く。
・1995年 NVIDIAが最初のグラフィックアクセラレータ製品NV1を発売。
・1999年 NVIDIAがGeForce 256発売。GPUという名が初めて使われる。以降、NVIDIAはGPU業界1位の座を守り続ける。
・2006年 GPGPU向け開発基盤CUDAを発表。以降、その並列計算に特化した性能を大規模コンピューティングに活用しようという動きが続く。
・2006年 ディープラーニングの発明。のちのビッグデータブームに乗り、これまでよりはるかに高性能なAIを模索する動きが始まる(第3次AIブームのおこり)
・2006年 CPU業界2位のAMDがGPU業界2位のATIを買収、チップセットにGPUを統合することで事実上自社製品をNVIDIAと切り離す戦略に出る。CPU業界1位のインテルも、同じく自社CPUに自社製GPUを統合する動きを強める。NVIDIAはこれまでの主力だったGPUチップセット製品の販売を終了し、データセンター向けGPGPUのTeslaシリーズ、ゲーム用外付けGPUのGeForceシリーズ、ARM系CPUと自社GPUを統合したTegraシリーズの3製品に整理する。このうちTeslaシリーズが性能向上やマイクロアーキテクチャ変更を経て現代のAIサーバ製品に直接つながる。GeForceシリーズはゲーマー向け需要や暗号通貨マイニング向け需要も取り込み成長。Tegraシリーズは後継品がNintendoSwitchに採用される。
・2012年 ディープラーニングが画像認識コンテストで圧倒的な成績を収め、実質的な第3次AIブームが始まる。
・2017年 Transformerモデル発表。これまでのNN・DLと異なり並列化で性能を上げるのが容易=デカい計算機を使えばAIの性能が上がる時代に突入。
・2018年 IBMがNVIDIAと開発した「Summit」がスパコン世界ランキング1位の座を5年ぶりに中国から奪還。全計算のうち96%がGPUによって処理され、HPC(ハイパフォーマンスコンピューティング)におけるGPUの地位は決定的になる。NVIDIAの開発したCPU-GPU間の高速リンク「NVLink」が大規模に活用される。「Summit」は2020年に「富岳」にトップを奪われるまで1位を維持。
・2018~2021年 BERTやXLNet、GPT2など大規模言語モデルの幕開け。まだ研究者が使うレベル。
・2019年 NVIDIA CEOジェスン・ファン(革ジャンおぢ)が「ムーアの法則は終わった」と見解を表明。半導体のシングルスレッド性能の向上は限界に達し、チップレットを始めとした並列化・集積化アーキテクチャ勝負の時代に入る。
・2022年 NVIDIAがH100発表。Transformerモデルの学習・推論機能を大幅に強化したサーバ向けGPUで、もはや単体でもスパコンと呼べる性能を発揮する。H100はコアチップGH100をTSMC N4プロセスで製造、SK Hynix製HBMとともにTSMC CoWoSパッケージング技術で集積したパッケージ。※N4プロセスは最新のiPhone向けSoCで採用されたN3プロセスの1つ前の世代だが、サーバ/デスクトップ製品向けプロセスとモバイル製品向けプロセスはクロックや電流量が異なり、HPC向けはN4が最新と言ってよい。
・2022年 画像生成AIブーム。DALL-E2、Midjourney、Stable Diffusionなどが相次いで発表。
・2022年 ChatGPT発表。アクティブユーザ1億人達成に2カ月は史上最速。
・2023年 ChatGPT有料版公開。Microsoft Copilot、Google Bard(Gemini)など商用化への動きが相次ぐ。各企業がNVIDIA H100の大量調達に動く。
・2024年 NVIDIAが時価総額世界4位に到達。半導体メーカー売上ランキング世界1位達成(予定)。
こうして見るとNVIDIAにとっての転換点は「ディープラーニングの発明」「GPGPU向けプログラミング環境CUDAの発表」「チップセットの販売からコンピューティングユニットの販売に転換」という3つが同時に起こった2006年であると言えそう。以降、NVIDIAはゲーマー向け製品やモバイル向け製品を販売する裏で、CUDAによってGPGPUの独占を続け、仮装通貨マイニングやスパコンでの活躍と言ったホップステップを経て今回の大きな飛躍を成し遂げた、と綺麗にまとめられるだろう。
8bitくらいのCPUは書籍もあるし、作れるが、DirectX対応のGPUあたりから日本はコケた認識だ。
何が足りてなかったのか。
中国、スイス、インドの大学では高性能半導体チップのアーキテクチャの講義がある(教授や研究者がいる)。
日本でコンピューターサイエンスというと、コンピューターアーキテクチャもソフト寄りだ。
中国産CPU、GPUが出てきているが、元インテル、元AMD、元NVIDIAといった略歴で、全く違う土壌から出てきたというものではない。
論文は一部しか説明してないし、各社のプロモーションになっているので、読めばチップを設計出来るようになるわけではない。
お仲間をかばう時にしかインテルはいってこないやつか?普段から損くらい頭使ってコメント書けや。普段お前らどんだけ頭悪いんだよ
このコメント書いてるやつ、普段自分が気に入らないやつにどういうコメントを書いてるのか振り返ってから書けよ。デマよりも鏡見る習慣ないやつのほうが嫌われるぞ。
ブコメ"屋外掲示物での女性描写の問題に言及するのと 漫画を楽しむことは矛盾しないのでは?いったい何が疑問なんだ?" これはひどい 心理 男女 区分け
「別問題」で終了。 / 俺だって逞しくてハンサムな男が監禁されて性的な拷問されるエロ漫画は大好きだけど、それを「駅の広告で堂々と大勢に見せ付けろ!させないのは表現規制だ!」なんて言わないよ。
君は・・・もうとにかく逆張してかまってもらうことしかできない哀れな生き物だからいいや。アイコン使ってる人に謝っとけ。
よくわからんが温泉娘やら屋外掲示物での女性描写の問題に言及するのと、パラレルパラダイスやサタノファニみたいなお上品漫画を楽しむことは矛盾しないのでは?いったい何が疑問なんだ?
あなたは、自分が擁護している人間が普段どういう発言をしているのか理解できているのか?理解できてないならあなたの読解力は幼稚園児並みなのでこれからタラちゃんの声マネをして生きろ
通報はよ。
あなたはジャンプの感想を書かなくなった時点でいてもいなくてもいい。好きにすればいいんじゃないかな。誰もあなたに興味ないけど。つーかあなたの複垢がgdgdsなのではという疑惑がある。
追記によってgdgds応援団が後ろから撃ち殺されてて大草原。
数十年前に半導体エンジニアだったけどメディアに転職した人:(自分が担当した分野以外は伝聞でしか知らないけど、俺は詳しいから)「失敗する」
ソフトエンジニアの人:(半導体の技術や装置のことなんて分からないけど、インテルやTSMCのニュースは沢山見ているので俺は詳しいから)「失敗する」
コメンテーター:(半導体全く何してるかわからないけど、ネットではどちらの声が優先でPV稼げるか考慮すると)「失敗する」
官僚:(半導体専門じゃないけどネット記事見て勉強した。メディアで報道記事を書いている人は詳しいはずだから信じよう)「これから国策でこうします。(民主主義だから真っ当な批判が返ってくるはずだ)」
半導体エンジニア:(全体分かっているエンジニアなんて居ないし、変な議論されているけど自分達と関わるから何も言えないよな) 「・・・」