  |
はてなキーワード: スパコンとは
半導体について少し調べてみた。
ムーアの法則は堅調に保ってるらしいが、2025年から先が自分の調査では見えなかった。
２年で２倍のペースなので、現状のスパコンやらとかが能力伸ばせるのがあと４倍程度ってことなのだろうか。
GPT-3などの明るい新技術が出る一方で、マシン能力の打ち止めのため、夢のシンギュラリティが来ないんじゃないかと心配になってる。
シンギュラリティによって人類が救われることだけが生きてる希望なので、このあたりがはっきりしないのはすごくストレス。
物理の数値シミュレーションソフトとか動かしてみると、全然終わらない。数秒のシミュレーションでも3Dにした瞬間１ヶ月とかかかったりする。
いろいろな物理シミュレーションの限界がスパコンの処理能力で決まっちゃうんだけど。
シミュレーションアルゴリズム自体の効率も結構上がってはいるけど、機械学習みたいなチートを使ったとしてもまだ足りないわけで。
2025年まで５年あるので、ブレイクスルーが出てくる可能性はあるんだろうけど。どうなんだろう。
個人的には現状の１０００倍（2^10）くらいは欲しいので、あと１０回くらいはムーアの法則やって欲しい。
シンギュラリティとかで、収穫加速とか言ってたのに、その辺どうなんだろう。
それとも、量子コンピューターがどんどんよくなったり、光量子コンピューターが実用レベルになるのか？
2025年までの5年が勝負に感じるんだけど、どうなんだろうか。
AWSのサーバーがとんでもない量のエネルギーを食ったり、世界のITによる消費電力がヤバイらしく、パワー半導体などで消費電力が下がるか、エネルギー技術で蓄電や新発電がうまくいけばメモリーを積みまくれるとかになって解決とかしないのだろうか。
それとも、演算能力より先にIOTで自動運転やら生活が便利になってIT以外の労働力がITに流れるようになってITの発展がより強くなっていくのか。
（調べた内容）
NANDメモリー ⇨ 多層化により発展中、現在２００層つめるのが確定のうちの１００層くらい積んでる。2年で２倍の容量増加で現状1T程度だから2022年に２Tまではいくが、そこから先が不明
DRAM ⇨ 微細化により発展中。現在２０nmを切ったくらいで、2021年に14nmくらい行きそう。3dにすることでさらに伸び代があるが、2024年くらいから先の見通しは見つかってない？ RRAM,MRAMなど次世代も商品化されてるものなどあるが2025年までは少なくともDRAMが支配的。
GPU ⇨1.5年で4倍の機械学習効率の上昇など、目覚ましい発展中
インテル、AMD、NVIDIA、クアルコム、ARM、Appleなど、日本語でも半導体が話題になることが多いが、
韓国は国家を上げて半導体で勝負しているし、サムスンの投資金額は巨額だ。
EUもソフトバンクがARMを買収したことによって、European Processor Initiative Research Project でEUとしての半導体を持とうとしている。
富岳で富士通が関わっていたが、どちらかというとARMアーキが使われたことと1位になったこと、TSMCで製造したことが話題で終始しているし、
これからはハードではなくソフトウェアで差別化だと言っている間に、AndroidやiOSに見られるようにパクりパクられを繰り返して多少の使い勝手はあるものの差別化要因になっていない。
Androidスマホなんてカメラ性能とCPU性能とディスプレイ性能を比べてのハードウェアによる差別化しか残ってない。
iPhoneなんてApple siliconを独自SoCを作ることで差別化しようとしているし、GoogleはTPUv4で差別化しようとしている。
GoogleがBERTを学習できるのは大量のサーバーがあるからだし、OpenAIがGPT-3を学習できるのはマイクロソフトに大量のサーバーを構築してもらったからだ。
ソフトウェアは不要ということはないが、ハードウェアの性能以上のことができないし、より抽象度を上げて処理が重くなる方向に向かってるので、ハードが進化するしかない。
それ以前にソフトウェアとサービスで国内市場しか取れず、Appleには手数料を30%から40%に上げようかと言われる始末だ。
今からなら量子コンピュータだろうという意見もあるだろうが、下記の慶応の量子コンピュータアーキテクチャの図1を見ればわかるように今のコンピュータがなくなるわけじゃない。
どちらかというとGPUのようなアクセラレータとしての域をまだ出ていない。
https://www.futurelearn.com/courses/intro-to-quantum-computing/0/steps/31566
RISC-Vが、という意見もあるだろうが、性能が突出してるわけでもなく、開発環境が整っているわけでもなく、無料という以外のメリットがない。
最後に謎の半導体会社を紹介しておく。プロセッサー業界情報が知りたければThe Linley Groupのサイトのニュースをお勧めする。
はてブでホットエントリーに上がったGPT-3だが、マイクロソフトのデータセンターを使っていて、
85,000のCPU、10,000のGPUと400Gbpsのネットワークで接続されたクラウドを使っていると言われている。
1750億個のパラメータがあるので、メモリも必要だわ、学習時間も必要だわになっている。
ムーアの法則を超えたスピードでパラメータが増加しているので、AIチップが出てくればなんとかなる、にはならない。
気になるのは日本語対応するかどうかだが、アメリカ勢からすると、そんな日本語データ用意するモチベーションがない。
テレビ、新聞、週刊誌は、政治報道に強いが科学技術については弱い。
Webメディアは米メディア記事の翻訳なので国内はあまり取り上げない。
大学の報道能力が低いという問題もあるだろうが、難しいことは取り上げない。
取り上げても内容よりも研究者の人格にフォーカスする。もしくは懸念事項を取り上げるだけ不安を煽る。
報道されないので、国内投資に繋がらない。アメリカ企業は報道されるので海外投資は拡大している。
投資をした時点で外部にどこに注力しようとしているのかわかるので嫌う企業もあるだろう。
スパコンの富岳のように成果を出したとしても、日本の他社にお金を払うなんてとんでもないという状況もあるだろう。
経産省などの資料を見ていると、ヤフーニュースなどで話題になっていることにアンテナを張っているのはわかる。
国が科学投資をしているが、成果を省庁が把握しているかがわかりにくい。文科省が悪いのか？
日本の研究アセットについて把握できてるのか。優秀な人はいるはずだが。
紫綬褒章などで表彰はしているが、メディアで広がった後。未踏はあるが取り上げられる人数が少なすぎる。
アルファベットがスーパーシティに投資してるから、これからはスーパーシティだ！というようなキャッチアップだけに注力している気がしてならない
SNSもヤフーニュースやtogetterで話題になったものしか広がらない。
共感されるものが広がるので、より共感される内容を！ということで、難しい科学技術の内容は広まらない。
広まらないので省庁の人も把握できない。
科学技術について情報強者はいるのか？（政治やGAFAについては日本の報道をほぼ見ている人はいるだろうが）
アメリカが強いのはリンクトインやGoogleなどで人の流れと成果を把握しているしているからではないだろうか。
人口が減っていくのを見越して、イスラエルのようにお互いけん制しあうより、ビジネス的に助け合う方向に変わった方がいいと思うがどうだろう。
みんな炎上情報に魅かれてしまうが、SNS上ではメンバーや意見の相違があり過ぎるし、そもそもSNSは意思決定の場ではないのに、意思決定をしようとしてより炎上し、一向に解決などしない。
政治や炎上に関しての研究者が毎日ウォッチするのはわかるが、他の専門家や技術者が毎日数時間時間を費やしている状況はどうなのか
「儲け」は不正確ではあるけどシミュレーションで様々な企業に利用されるということから意訳した。
経済効果が文脈によって日本製米国製関わらずスパコンシミュレーションの効果という意味と
国産スパコンの費用対効果という意味の両方で使われていて会話としても微妙な感じ。
○説明者（文部科学省） まず経済的な問題について、私どもの試算でございますので、
躊躇しておりましたが、マクロ経済モデルで 3.4 兆円の経済効果、具体的には開発コスト
の企業等の削減におきまして約 8,400 億円の経済効果、あるいは先ほどの災害リスク等も
含めますと、かなりの国民への効果があり得るというのが１点でございます。
それから、御質問の日米協力の問題でございますが、確かに多くの分野で共同研究等の
道は探るべきだと思いますが、この国際競争においては両国ともに、はい。
○蓮舫参議院議員 そうしたらアメリカが先にこのスパコンを開発したらどうなるんです
か。
○説明者（文部科学省） 私が申し上げたのは、スパコンというシミュレーションの世界
においての問題でございます。その点で不利な状況になるということでございます。
○蓮舫参議院議員 すみません。松井さんが言ったのは違うと思います。つまり経済効果
を考えたときには、世界一でなければいけない。でも研究としては、これはやり続けなけ
ればいけない。そこが矛盾していませんかと聞いている。どちらを重視しておられるのか
教えていただけますか。
