AGI競争が始まったのだ。私たちは思考し、推論できるマシンを作りつつある。2025年から26年にかけて、これらのマシンは多くの大学卒業生を凌駕するだろう。10年後までには、これらのマシンは私やあなたよりも賢くなり、本当の意味での超知性を手に入れるだろう。その過程で、この半世紀には見られなかったような国家安全保障の力が解き放たれ、やがて「プロジェクト」が始動する。運が良ければ、中国共産党との全面的な競争になり、運が悪ければ全面戦争になる。

今、誰もがAIについて話しているが、何が自分たちを襲おうとしているのか、かすかな光明を感じている人はほとんどいない。Nvidiaのアナリストは、まだ2024年がピークに近いと考えている。主流派の評論家たちは、「次の言葉を予測するだけだ」という故意の盲目に陥っている。彼らが見ているのは誇大広告といつも通りのビジネスだけで、せいぜいインターネット規模の新たな技術革新が起こるのを楽しむ程度なのだ。

やがて世界は目を覚ますだろう。しかし、今現在、状況認識を持っているのはおそらく数百人で、そのほとんどはサンフランシスコとAI 研究所にいる。運命の不思議な力によって、私はその中に身を置くことになった。数年前、このような人々はクレイジーだと揶揄されたが、彼らはトレンドラインを信頼し、過去数年間のAIの進歩を正しく予測することができた。この人たちが今後数年についても正しいかどうかはまだわからない。しかし、彼らは非常に賢い人々であり、私がこれまでに会った中で最も賢い人々である。おそらく、彼らは歴史の中で奇妙な脚注となるか、あるいはシラードやオッペンハイマー、テラーのように歴史に名を残すだろう。もし彼らが未来を正しく見ているとしたら、私たちはとんでもないことになる。

私たちが見ているものを教えよう。

2027年までにAGIが実現する可能性は極めて高い。GPT-2から GPT-4までの4年間で、私たちは～未就学児から～賢い高校生までの能力を手に入れた。計算能力（～0.5桁またはOOMs/年）、アルゴリズム効率（～0.5OOMs/年）、および「趣味のない」向上（チャットボットからエージェントへ）のトレンドラインをトレースすると、2027年までに再び未就学児から高校生サイズの質的なジャンプが起こると予想される。

II.AGIから超知能へ：知性の爆発

AIの進歩は人間レベルでは止まらない。何億ものAGIがAI 研究を自動化し、10年に及ぶアルゴリズムの進歩（5以上のOOM）を1年以下に圧縮することができる。私たちは、人間レベルから超人的なAI システムへと急速に進化することになる。超知能の威力と危険性は劇的なものとなるだろう。

III.課題

IIIa.兆ドル クラスタへの競争

驚異的な技術資本の加速が始まっている。AIの収益が急増するにつれ、10 年末までに何兆ドルもの資金がGPU、データセンター、電力の増強に投入されるだろう。米国の電力生産を数十％増加させるなど、産業界の動員は激しくなるだろう。

IIIb.研究所の封鎖AGIのセキュリティ

米国の主要なAI 研究所は、セキュリティを後回しに扱っている。現在、彼らは基本的にAGIの重要な機密を銀の皿に載せて中国共産党に渡している。AGIの秘密とウェイトを国家機関の脅威から守るには膨大な努力が必要であり、我々はその軌道に乗っていない。

IIIc.スーパーアライメント

我々よりもはるかに賢いAI システムを確実に制御することは、未解決の技術的問題である。解決可能な問題ではあるが、急速な知能の爆発が起きれば、物事は簡単にレールから外れてしまう。これを管理することは非常に緊張を強いられるだろう。

IIId.自由 世界は勝利しなければならない

スーパーインテリジェンスは、経済的にも軍事的にも決定的な優位性をもたらすだろう。中国はまだゲームから抜け出してはいない。AGIをめぐる競争では、自由世界の存亡がかかっている。我々は権威主義的な大国に対する優位性を維持できるのか？そして、その過程で自滅を避けることができるのだろうか？

IV.プロジェクト

AGIへの競争が激化するにつれ、国家安全保障が関与してくる。アメリカ政府は眠りから覚め、27～28年までに何らかの形で政府によるAGIプロジェクトが立ち上がるだろう。どんな新興企業も超知能を扱うことはできない。SCIFのどこかで、終盤戦が始まるだろう。

V.おわりに

もし我々が正しかったら？

――――――――

私はかつてOpenAIで働いていたが、これはすべて一般に公開されている情報、私自身のアイデア、一般的な現場知識、あるいはSF ゴシップに基づいている。

Collin Burns、Avital Balwit、Carl Shulman、Jan Leike、Ilya Sutskever、Holden Karnofsky、Sholto Douglas、James Bradbury、Dwarkesh Patel、その他多くの方々の有益な議論に感謝する。初期の草稿にフィードバックをくれた多くの友人に感謝する。グラフィックを手伝ってくれたジョー・ローナン、出版を手伝ってくれたニック・ウィテカーに感謝する。

イリヤ・スーツケバーに捧ぐ。

続き I.GPT-4からAGIへ：OOMを数える(1) https://anond.hatelabo.jp/20240605203849

Permalink | 記事への反応(0) | 21:11

■anond:20240605172310

中国にお住いの方？

日本のトイレではドアを開けっぱにしない限りクソしてるところは見えないと思うけど…

Permalink | 記事への反応(0) | 17:26

■anond:20240605105804

ロシアのクソ野郎から北方領土全部取り戻します

韓国のクソ野郎から竹島を取り戻します

中国のクソ野郎なんかしるか台湾は正当な国家です

Permalink | 記事への反応(0) | 11:09

■十大自民党が言わなそうなこと

減税します
私達は納税します
中国はクソです
韓国はクソです
統一教会はクソです
野党は正しい
責任とって辞任します
（法を犯しまくったので）出頭します
法を遵守します
電通やパソナといった中抜きに税金は使いません

他にある？

Permalink | 記事への反応(5) | 10:58

■anond:20240605094617

中国に違法オンデマンド同人印刷業者がいる

出したばっかの同人を検索したら中国のサイトが検索して気づいてしまった

そいつらは全部1冊づつ買っていって、現地で注文が入ったらその場で印刷発送をしている

正直儲かってるのか妖しい

Permalink | 記事への反応(1) | 09:48

■anond:20240605092727

じゃあなんで中国や北朝鮮では放送そのものがブロックされたりするの？

Permalink | 記事への反応(1) | 09:28

■少子化はどこまでいけるのか

タイ　 https://togetter.com/li/2378160

韓国　 https://www.jetro.go.jp/biznews/2024/03/154ec437debe60b9.htm

出生数がゴリゴリ下がっていってるけど

これはあくまで状態Aから状態Bへの移行期だと思っている

何の状態の変化なのかはしらない（誰も解明できていない）が

毎年10％減ってるからと言ってそれがずっと続くわけではない

となるとどこで止まるのか？だけど

適齢期の20〜35歳くらいの男女が、最低限このくらいは結婚して子供を生むだろうというラインがあると思う

具体的には韓国だと3割は結婚して、1.5人は子供を設けるでしょう

その時の合計特殊出生率は0.225

今適齢期は韓国の場合、1000万人くらいいるから

15年あるとして、1000万×0.225/15=15万人あたりが下限だろう

20 23年の出生数は23万人だったから、10％マイナス成長すれば3年で底打ちする

そこからは新しい時代になってしまうだろう

なお、次の15年の世代は700万人くらいとなるので、下限は10万人となる

日本の場合の下限は

結婚率が50％、子供が1.5人くらいと考えると、合計特殊出生率は0.375だが

適齢期は2000万人、下限が50万人で、今の出生数が75万人なので、10％減少すれば4年で底打ちと予想される

50万人と言えば、80年で4000万人か

その時、有権者や政治は何を思うのか

中国の場合の下限は

結婚率が50％、子供が1.5人と考えると、合計特殊出生率は0.375

適齢期は2億人、下限が500万人くらいで、今の出生数が900万人、10％減少すれば6年で底打ちと予想される

Permalink | 記事への反応(0) | 09:06

■チャイ エスに行くと

ちんちんが大きいとよく褒められる。

まあそれ自体は風俗嬢の言うお世辞なので別にいい気分になったりすることもないんだが

どこのチャイエスに行ってもみんな口を揃えて

「おっきいね！彼女（奥さん）幸せだね」って言うんだよな

日本人にちんちんを褒められる時に彼女や奥さんを引き合いに出すのは全然聞かないが、中国人はほぼ100%この言い回しをする。あれは中国独特のちんちん褒め言葉なんだろうか。

Permalink | 記事への反応(4) | 07:56

2024-06-04

■[稀ドメインはてブ]2024年 5月滅多にホットエントリを出さないドメイン からのホットエントリ

ここ1年で初めてはてなブックマーク日毎の総合人気エントリ入りしたドメインからのホットエントリ、ブクマ数順トップ30

ブクマ数	タイトル	ドメイン
1884	わずか40秒の運動で身体に起こる劇的変化 – 早稲田大学研究活動	www.waseda.jp
1789	仕事の進め方がグダグダの会社はどうすればいいのか、「プロジェクトマネジメントの基本が全部わかる本」の著者に聞いてみた	agend.jp
1662	取調べを受けることになったらー取調べを受ける心がまえについてー - しんゆう法律事務所	shin-yu-lawoffice.com
1514	1on1 ミーティングガイド (1on1 ガイド)	guide.1on1guide.org
1191	知れば写真が上手くなる！基本・応用の構図15選と構図を使いこなすコツ｜ Adobe	www.adobe.com
1153	プロダクトマネジメントクライテリア	productmanagement-criteria.com
1090	自宅で美味しいコーヒーを飲むためにどういう順序でお金を使うべきか	hachibeechan.hateblo.jp
1043	最近ローカルLLMがアツいらしい	soysoftware.sakura.ne.jp
974	表記揺れ検出ツール「テキストゆれないくん」 - inzkyk.xyz	inzkyk.xyz
958	地政学リスクの全体像の整理｜三菱UFJ リサーチ＆コンサルティング	www.murc.jp
711	自炊するな。ガチでやめろ。人生終わる。	not-miso-inside.net
706	デジタル庁デザインシステムβ版	design.digital.go .jp
681	和歌山市役所の現実	wakayamajisatu.jimdofree.com
613	ひとり会社の起業について学んだ10のこと - Go TheDistance	go thedistance.hatenadiary.jp
593	重要な局面を迎える中国のアニメ調スマホゲーム。大衆化の過程でぶつかった壁。「『有男不玩』運動」とは	kultur.jp
583	ガチめのインターネット老人会クイズ	tters.jp
548	Magic UI	magic ui.design
530	会議改善に関するガイドラインを策定しました｜柏崎市公式ホームページ	www.city.kashiwazaki.lg.jp
494	押井守版『攻殻機動隊』について原作者（士郎正宗）はどう思っているのか？ - ひたすら映画を観まくるブログ	type-r.hatenablog.com
490	下戸がノンアルコールビールを飲んで「おつまみ」の概念を理解した話 - ココロ社	kokorosha.hatenablog.com
487	「ごめんなさい」などと言わずに「おわびします」だけできちんと謝ったことになるのでしょうか - ことばの疑問 - ことば研究館	kotobaken.jp
476	Xユーザーの株式会社アミューズ法務部さん: 「滝沢ガレソ氏によるXでの投稿に関連して、アミューズ所属の星野源の名前を挙げての憶測が拡散され当社にも多くのお問合せが寄せられています。星野源において当該投稿にある事実は一切なく、また当社が記事をもみ消した事実も一切ありません。虚偽の情報の拡散、発信には法的措置を検討いたします。 https://t.co/qyUQpeg0xj」 / Twitter	x.com
464	中国で売られるスマホには「消しゴムマジックで消せない場所」があるって本当？実際に試してみた - はやぽんログ！	www.hayaponlog.site
453	灰仭巫覡 - 大暮維人 / 【一番】｜マガポケ	pocket.shonenmagazine.com
452	ウェブサイト制作では、游ゴシックはおすすめしない理由	community.creators-synergy-cafe.com
449	エンジニア3年目までに読んで良かった書籍 - Yuki Watanabe's Blog	yuki0920.hatenablog .jp
441	はてな古参度チェッククイズ	tters.jp
437	NHKはアニメのクレジットに下請け会社の名前を出す事が出来ない - Fushihara’s blog	fushihara.hatenadiary.jp
437	地磁気の大きな乱れが観測されています｜気象庁	www.jma.go .jp
435	2023年、AIの影響で『絵に求められる事』が激変してきている話。｜さいとう　なおき｜pixivFANBOX	naoki.fanbox.cc