  |
はてなキーワード: セキュリティとは
X (twitter) で SITUATIONAL AWARENESS: The Decade Ahead https://situational-awareness.ai/ というのが回ってきて非常に示唆に富むものだったので、DeepL (無料版 API経由) で訳してみた。
この1年で、街の話題は100億ドルのコンピュート・クラスターから1000億ドルのクラスター、そして1兆ドルのクラスターへと移り変わってきた。半年ごとに、役員室の計画にまたゼロが追加される。その裏では、残りの10年間に利用可能なすべての電力契約と、調達可能なすべての電圧変圧器を確保しようとする熾烈な争いが繰り広げられている。アメリカの大企業は、アメリカの産業力を結集させるために、何兆ドルもの資金を注ぎ込む準備を整えている。ペンシルベニア州のシェールフィールドからネバダ州の太陽光発電所まで、何億ものGPUが稼働する。
AGI競争が始まったのだ。私たちは思考し、推論できるマシンを作りつつある。2025年から26年にかけて、これらのマシンは多くの大学卒業生を凌駕するだろう。10年後までには、これらのマシンは私やあなたよりも賢くなり、本当の意味での超知性を手に入れるだろう。その過程で、この半世紀には見られなかったような国家安全保障の力が解き放たれ、やがて「プロジェクト」が始動する。運が良ければ、中国共産党との全面的な競争になり、運が悪ければ全面戦争になる。
今、誰もがAIについて話しているが、何が自分たちを襲おうとしているのか、かすかな光明を感じている人はほとんどいない。Nvidiaのアナリストは、まだ2024年がピークに近いと考えている。主流派の評論家たちは、「次の言葉を予測するだけだ」という故意の盲目に陥っている。彼らが見ているのは誇大広告といつも通りのビジネスだけで、せいぜいインターネット規模の新たな技術革新が起こるのを楽しむ程度なのだ。
やがて世界は目を覚ますだろう。しかし、今現在、状況認識を持っているのはおそらく数百人で、そのほとんどはサンフランシスコとAI研究所にいる。運命の不思議な力によって、私はその中に身を置くことになった。数年前、このような人々はクレイジーだと揶揄されたが、彼らはトレンドラインを信頼し、過去数年間のAIの進歩を正しく予測することができた。この人たちが今後数年についても正しいかどうかはまだわからない。しかし、彼らは非常に賢い人々であり、私がこれまでに会った中で最も賢い人々である。おそらく、彼らは歴史の中で奇妙な脚注となるか、あるいはシラードやオッペンハイマー、テラーのように歴史に名を残すだろう。もし彼らが未来を正しく見ているとしたら、私たちはとんでもないことになる。
各エッセイはそれぞれ独立したものですが、シリーズ全体として読むことを強くお勧めします。全エッセイのPDF版はこちら。
2027年までにAGIが実現する可能性は極めて高い。GPT-2からGPT-4までの4年間で、私たちは～未就学児から～賢い高校生までの能力を手に入れた。計算能力（～0.5桁またはOOMs/年）、アルゴリズム効率（～0.5OOMs/年）、および「趣味のない」向上（チャットボットからエージェントへ）のトレンドラインをトレースすると、2027年までに再び未就学児から高校生サイズの質的なジャンプが起こると予想される。
AIの進歩は人間レベルでは止まらない。何億ものAGIがAI研究を自動化し、10年に及ぶアルゴリズムの進歩（5以上のOOM）を1年以下に圧縮することができる。私たちは、人間レベルから超人的なAIシステムへと急速に進化することになる。超知能の威力と危険性は劇的なものとなるだろう。
驚異的な技術資本の加速が始まっている。AIの収益が急増するにつれ、10年末までに何兆ドルもの資金がGPU、データセンター、電力の増強に投入されるだろう。米国の電力生産を数十％増加させるなど、産業界の動員は激しくなるだろう。
米国の主要なAI研究所は、セキュリティを後回しに扱っている。現在、彼らは基本的にAGIの重要な機密を銀の皿に載せて中国共産党に渡している。AGIの秘密とウェイトを国家機関の脅威から守るには膨大な努力が必要であり、我々はその軌道に乗っていない。
我々よりもはるかに賢いAIシステムを確実に制御することは、未解決の技術的問題である。解決可能な問題ではあるが、急速な知能の爆発が起きれば、物事は簡単にレールから外れてしまう。これを管理することは非常に緊張を強いられるだろう。
スーパーインテリジェンスは、経済的にも軍事的にも決定的な優位性をもたらすだろう。中国はまだゲームから抜け出してはいない。AGIをめぐる競争では、自由世界の存亡がかかっている。我々は権威主義的な大国に対する優位性を維持できるのか？そして、その過程で自滅を避けることができるのだろうか？
AGIへの競争が激化するにつれ、国家安全保障が関与してくる。アメリカ政府は眠りから覚め、27～28年までに何らかの形で政府によるAGIプロジェクトが立ち上がるだろう。どんな新興企業も超知能を扱うことはできない。SCIFのどこかで、終盤戦が始まるだろう。
もし我々が正しかったら？
――――――――
私はかつてOpenAIで働いていたが、これはすべて一般に公開されている情報、私自身のアイデア、一般的な現場知識、あるいはSFゴシップに基づいている。
Collin Burns、Avital Balwit、Carl Shulman、Jan Leike、Ilya Sutskever、Holden Karnofsky、Sholto Douglas、James Bradbury、Dwarkesh Patel、その他多くの方々の有益な議論に感謝する。初期の草稿にフィードバックをくれた多くの友人に感謝する。グラフィックを手伝ってくれたジョー・ローナン、出版を手伝ってくれたニック・ウィテカーに感謝する。
続き I.GPT-4からAGIへ：OOMを数える(1) https://anond.hatelabo.jp/20240605203849
iPhoneからAndroidに移行したんだけど、トーク履歴が14日しかバックアップされないゴミ仕様なんだよね
まぁセキュリティとか乗っ取りとか色々あると思うんだけど、個人的には納得いかない仕様。
友達ともだけど、普通にサークルとか委員会の業務連絡とか引き継げないのがつらい。
なんかtxtファイルにエクスポートできるらしいんだけど、そういうことじゃないんだよなー。ということで今回、好奇心8割ぐらいで中華製の怪しいLINEバックアップツールを使ってみた。
会社は中国にあるIT企業らしい。サイトは怪しさあるけど、よくある外資系のサイトって感じ。
月額4000円くらい←高すぎる
PayPalで支払いました。
元のスマホからLINEのデータを吸い出して、移行先のGoogleアカウントにログインしてバックアップをする
なんか1時間くらいかかった。0%からなかなか動かなくて詐欺られたかと思ったけど急に進んだ（まぁ4000円だし最悪いっかと覚悟を決めてた）
概ねできた。
バックアップ中にきてしまったメッセージ数通は復元できなかったが、数年前のトークまで9割以上復元できた。写真とかも復元できている。
本物だった。
多分情報抜かれる気がする。（LINEのトークなんて元から信用できないけど）サードパーティーが情報を自由にできる状態になってしまうのは注意
特に今回の中華企業はよくわからんとこだから余計に危なさそう。支払い方法も注意。
LINEさん、Letter Sealingとかセキュリティ強化してます風に言ってるけど、中華のサードパーティーにカンタンにトーク抜かれちゃうんですね笑
そもそもディスコとかインスタ、Facebookは複数ログイン可能だし、トークも引き継げるのにLINEだけできないのはおかしい話
もう囲い込みができてるからトーク履歴消えてもLINEを使ってくれるという自信があるんだろうね。
やるのであれば自己責任
某中華ソシャゲが不具合報告のメールのToに該当ユーザーのメールアドレス200超を全部突っ込んで送信してちょっとした騒動になってるけど、
弊社取引先の一つには、ニートからいきなり事業統括部長待遇で入社した社長のバカ息子が、
今日も今まさにこの時もToに取引先のメールアドレスをぶち込むせいで、
弊社含めてどの会社のどの部署のどの肩書の誰々さん（フルネーム）と付き合いがあるのかが公然の秘密になってるし、
中には未だに携帯の電話番号+ランダムな文字列みたいなキャリアメールアドレス使ってる人もいるから電話番号すら筒抜けだし、
それを受けて弊社のセキュリティ部門の対応として社外に送るメールはToには2つ以上のアドレスの記載が禁止されているし、
CCもBCCも禁止されているので、「直接のご担当ではないことは理解しておりますが、一応念の為、共有を行います」って断り書きいれて控えを送るし、
社内メールではToに複数のアドレスの記載はOKだけど、アドレスの記載順に席次の概念が取り入れられているので、
社内の偉い順にToを一つ一つ追加していかないといけないし、
休みの日にも個人の携帯に電話が来て即日対応しないといけないことも多いから泊りがけで遊びに行くこともできなくなったし、
うちの直接の上司はXとYouTube経由で陰謀論にはまって社内で反ワク推奨運動して部長から厳重注意を受けるし、
読解力が不足するとAIも使えないのか
思考停止に使えとは言ってないんだよ
頭悪
インターネット上のやり取りで、AIに自分の代わりに返答を作成させることについて、その正否は状況や使い方によって異なります。
正しい使い方としては**:
- **時間的・労力的効率化**: AIを利用することで、迅速かつ効率的に返答を作成することができ、時間的・労力的な負担を軽減できます。
- **文章力の補助**: 文章力に自信がない場合や、より洗練された返答を作成したい場合に、AIの補助を活用することができます。
- **アイデアの生成**: AIは人間とは異なる視点やアイデアを提供することができ、会話や議論をより豊かなものにすることができます。
一方で、注意すべき点としては**:
- **責任感とモラル**: AIに依存しすぎると、自分の言葉で考える力や表現力が衰える可能性があります。また、AIが作成した返答に対して責任感を持つ必要があります。AIが不適切な内容を生成した場合、それを使用した人間にも責任が問われる可能性があります。
- **オリジナリティと個性**: 自分の言葉を使わずAIに依存しすぎると、個性やオリジナリティが失われる可能性があります。AIはあくまで補助的なツールとして利用し、自分の意見や考えを積極的に取り入れることが大切です。
- **プライバシーとセキュリティ**: AIサービスを利用する際、個人情報や機密情報を扱う場合は特に、プライバシーやセキュリティに十分注意する必要があります。
AIは適切に使用すれば強力なツールとなりますが、過度な依存や誤用は避けるべきです。AIを上手に活用しながらも、自分の言葉で考え、表現し、責任感を持ってコミュニケーションを取ることが大切です。
そもそも性犯罪はほぼ男の仕業なのに、女にばかり対応を求めるっていうのがね
そういうと男に協力するインセンティブなんてなくね？って言ってくるんだけどw
マジで頭が悪くてびっくりするんだけどｗ
「富豪の家のセキュリティ費用は貧乏人が広く負担せよ、何故なら富豪の家に泥棒に入るのは貧乏人だからだ」
みたいな話だよね、お前が言おうとしてるのはさ。
つまりもう防犯じゃなくてただのうっぷん晴らしじゃん？
それ八つ当たりって言うんだよ？
「アメリカの犯罪の大半は黒人がやってるから黒人にもっと警察予算を負担させよう」
って言って成り立つか考えてくれよ。
せめて「犯罪やった黒人に労役を課して回収する」とかそういう風にすべきなのに
そうじゃなくて広く黒人全体に何か嫌がらせをしたいって言うのは八つ当たり＆レイシズムなのがバレバレなんだよ。
お前らは差別主義者でありかつそれを隠せても居ないの。
自覚してくれよ。
