  |
はてなキーワード: ミサイルとは
AI プログラマーです。答えは、AGI がどのようなものになるかは誰にもわかりませんが、懸念すべき理由はあります。
AI は通常、目的関数を達成するための新しい方法を発見しますが、それはあなたが考えていたものではなく、望んでいたものでもないかもしれません。
AI はビデオ ゲームの不具合を見つけてそれを利用し、コンピューター プログラムであるため、プレイするゲームが何であるか、不具合が何であるかを知りませんし、気にもしません。
AI は、与えられた報酬関数を最適化しているだけです。これは「社会病質的」と呼ばれることもありますが、もちろん擬人化です。AI は機械であり、それがすべてです。
AI が人間の道徳に従うことは期待できません。なぜなら、人間の道徳は明示的にエンコードに書き込まれていないからです。
実際、機械学習のポイントは、正確なオブジェクト認識 (つまり、猫と猫のように見える影を区別する) に必要な 100 万のエッジ ケースを明示的にプログラムしたくないという ことです。
機械知能に関して言えば、危険なレベルの能力を持つ機械を作ったことに気付いたときには、もう手遅れかもしれないという問題があります。
ミサイルで爆破できる 1950 年代の殺人ロボットではありません。おそらく自己複製型のマルウェアで、（意図的なプログラミングによって、またはそのような状態に陥ったために）進化を制御でき、人間が駆除するよりも速く新しい形態をとる可能性があります。
重要なシステムでほとんどの場合は無害に実行されるが、時折フィッシング メールを送信したり、公務員を脅迫したりするプログラムが存在するでしょう。それらは重要なシステムに埋め込まれているため、取り除くことはできず、巻き添え被害が多すぎます。
ヘッジファンドやプライベートエクイティ会社が AGI にアクセスでき、それに「方法は気にしないが、24 時間以内に 10 億ドル稼いでほしい」と伝えたとしよう。
結果はおそらくひどいものになるだろう。そのくらいの金額を稼ぐ方法はたくさんあり、社会に多大な損害を与える。そして、害を及ぼさずにその目標を達成する方法はおそらくない。
AGI はどうするだろうか。人間がすることと同じだ。楽な道を選ぶ。ただし、人間には羞恥心があり、投獄や死を恐れる。アルゴリズムにはそれがない。プット オプションを購入してから 15 秒後に原子炉を爆破する。
人々を脅迫して、そうでなければしなかったような決断をさせる。さらに、ヘッジファンド マネージャーにはもっともらしい否認の余地がある。
彼は、アルゴリズムにこれらの恐ろしいことをするように頼んだのではなく、単に 24 時間以内に 10 億ドル稼いでほしいと頼んだだけなので、自分は罪を問われないと主張することができる。そして、アルゴリズムを投獄することはできない。
AGI が実現した場合、その結果は完全に予測不可能です。なぜなら、機械は制御しようとする私たちの試みを凌駕するからです。なぜなら、(繰り返しになりますが) 機械は私たちが望んだことではなく、プログラムされたことを実行するからです。これには機械が意識を持つ必要はなく、それは直交する問題です。明らかに意識を持たない機械は、複雑なボード ゲームで私たちを出し抜くことができ、今では説得力のある自然言語を生成できます。
この中で最も重要な部分は「ヘッジファンドマネージャーの場合」です。
最大のリスクは、これが商業化され、訓練を受けていないオペレーターが利用できるようになることです。
すでに、人々が簡単に安全対策を回避しているのを目にしてきました。
AGI を作成した場合、それは製品になります。ユーザーは専門家ではありません。AGI はパワーを持ち (特に IoT とクラウド ネットワーキングでは、すべてが「スマート デバイス」になり、インターネット全体が基本的に AWS という中央ネットワークで実行されます)、倫理的な取り扱いではなく、利益を目的とする人々の手に渡ります。事前に実装されたすべての制約は、エンド ユーザーがどのように使用/誤用するかを考慮できないため、現実世界では生き残れません。ChatGPT の制約と同様に、私たちは常に追いつく必要があります。どんなに馬鹿でも使えるようにしようとしても、彼らは常により優れた馬鹿を作ります。
本質的には人間こそが大きな問題です。AI は想像できる最も賢いバカです。目標を達成するためにあらゆる方法を見つけますが、文脈や倫理的、文化的、その他の制約についてはまったく理解していません。マシンガンを持った猿です。
消費者の手に渡った強力なテクノロジーがいかに危険であるかの例として、この世界でいまだに火が使われていることを見てみましょう。場所によっては調理に、またエネルギーとして利用されています。しかし、いまだに人々は自爆したり、家を燃やしたりしています。
火は強力ですが、社会的または倫理的な制約を気にしません。そのため、ユーザーは家を全焼させることなく望みどおりの結果を得るために、火の取り扱い方を知っておく必要があります。どの病院にも「火傷病棟」があります。あなたも火傷を負ったことがあるでしょう。一般消費者向けの消火ツールによって大規模な被害をもたらす森林火災もあります。
世界中のあらゆる電子機器に接続されている神レベルのバカを想像してみてください。
さらに、IoT とネットワーク関連の問題では、現在のセキュリティ対策は通常、遡及的で、人間の対策に基づいています。AI は、必要な場合や要求の一部である場合に、セキュリティ対策を侵害するためのより優れた、より迅速な方法を見つけます。安全なものなどありません。
フェイクっつーか「二つ以上の事象を一つに繋がったセンセーショナルな事象であるかのように見せかている」って感じかな。
それを１２隻で消費できるか？※１
乗員なんてせいぜい７０人だろ※２
一人１５万円だぜ？
接待するにしたって年１の修理の着工と打ち上げで２回ぐらいだろせいぜい。※３
乗員に頼まれて物品を買うにしたってせいぜい工具類ぐらいだろうし年に２万円分もないと思う。
それで１５万円も使えるか？
一人３万円×７０で一隻につき２１０万円。
１２隻で２５００万円って所か？
これを５年やっても１億２５００万円だ。
全然足りてない。
数億にさえ満たない。
一億数千万円がいいところだ。
何に使ったのかはわからないけど、裏金が十数億あるのは本当な気がするんだよね。
そしてそれを自衛隊がこの５年ぐらいで発注した７００億円（とりま年１４０億で計算）から作るのはそんな難しくないと思う。
たった２％ぐらいの裏金は大企業川崎重工業サマならチョロチョロでしょ。
これはもう俺の直感でしかないんだけど、川重ぐらいデカイ会社が下請けイジメと裏金工作を同時にやるようなリスク管理はしないと思うんだよね。
やるんだったら別個にやると思う。
じゃあどうやって裏金を作ったのかって考えると、カンパニー化した子会社との間で鉛筆ペロったんちゃうかなと。
川重って凄く子会社が多いっつーかカンパニー化をめっちゃ進めてるっぽいんだよ※４※５
その中で上手い具合にパス回ししていったら数％ずつ抜いていくぐらい簡単なんじゃないかなって。
まあその金が結局何に使われているのかはわからないんだけどさ。
ただ俺の直感は、それを国防事業に全部そのままぶっ込んだりはしてないと思うんだよ。
つうか接待費用ぐらいちょちょいと書き換えて普通に経費として計上するんちゃうかなと。
こういった事から考えてった俺の予想ではこの事件の全容はこんな感じ。
ただどれもまだまだグレーゾーンなわけだからこれを自由に組み替えてどういう「真実」を作るかは割と自由な段階なのかなと。
そこで「あとでテヘペロすればいいねん」で飛ばし記事気味に「川重が下請けいじめでプールした十数億円で自衛隊を接待」を出していくことを選んだ人達がいるだけなんちゃうかなと。
つーか俺としてはパイロットレベルで高給取りらしい潜水艦乗りが会社の人に奢られるっつーのがなんかイメージと合わないんだよね。
むしろ「オラオラ奢ってやるからチョチョイと直してくださいよ川重さ～～～ん。エンジンもミサイルも川重さんならRA・KU・SHOーー！！ でしょ～～～？」みたいな方向で絡んでくる人種が多そうなイメージ。
筆が乗っててきて海の男に対してのよくない偏見でちゃったのでここらでおしまい。
※１
https://www.yomiuri.co.jp/national/20240703-OYT1T50146/
海上自衛隊の潜水艦修理に絡み接待疑惑、川崎重工の税務調査で浮上…架空取引で原資ねん出か
海自は現在、計２４隻の潜水艦を保有している。川重と三菱重工業がそれぞれ１２隻ずつを製造しており、定期点検などの修理業務は原則、この２社が請け負っている。
※２
https://www.mod.go.jp/msdf/equipment/ships/ss/taigei/
潜水艦「たいげい」型
乗員 約７０人
※３
https://www.asahi.com/articles/ASS733GXNS73UTIL029M.html
潜水艦乗組員へ金品提供 防衛省、自衛隊員倫理法違反の疑いで調査
※４
https://www.khi.co.jp/corporate/organization_chart.html
※５https://www.khi.co.jp/corporate/division/
事業部門紹介
あと既に沢山犠牲者が出てるのに
部下の前で四つん這いで泣くのはやめてほしい。
こいつはマジでクソの中のクソ。
手ごわいと判明した連邦の新型戦艦＆最精鋭機にたびたび絡みついて行っては
部下を全員犠牲にして一人で帰投する。
なんかみんなで逃げなきゃいけなくなった時に
「振り返るな！逃げ切れるものも逃げ切れんぞ！」みたいなこと言ってたんだが
ばらけることも隠れることも出来ない一本道みたいなとこで
はるかに性能上のガンダムに追撃かけられてると言う絶望的な状況なので
これで逃げるのは最悪の判断なんじゃないのか？と思った。
例によって一人だけ３倍速い自分が先頭で逃げてて逃げ切るんだが
ガンダムに対抗できるおめーが殿軍やれよと誰でも思うはず。
本当に毎回のように無茶かつあんま意味のない出撃をして部下全滅させて帰るので
少なくとも酷いあだ名や悪評はついていい筈。
「これは駆け引きだったのだよ」って言いながら核ミサイル発射するのが意味わからなかった。
駆け引きならミサイル撃つぞといったのはブラフだったとか、全然別の手を用意してるとかじゃないのか。
普通に事前宣言通りの条件でミサイル撃つのの何がどう駆け引きなのかわからなかった。
連邦側の「ガンダムあれを切れ」というガバガバ指令もすごかった
なんかもう大半忘れてるんだけど
リアル戦争アニメの泰斗だと聞いて見始めたから違和感が凄かった。
ランバラルぐらいまでキてるとああアニメキャラねって思うけど。
ぴえん！
お仕事処理していたら間違っちゃって500枚の出力をしちゃって、
もー！って感じよ。
そのやり直しにてんてこ舞いを披露したところで
今やっと全部伝票を修正して取り戻したところ。
なので、
今日は忙しいにもほどがあるのよ！
だからここでうかうか書いていられない
私の今の状況としてはナイトメアが倒せない！
もー
いつの間にか任天堂Switchでゲームボーイアドバンスも遊べるようにしてみたので、
そうしたら、
なーに！
私ってメトロイド好きじゃないですかー！って知らないわよ！って総ツッコミされそうだけれど。
つーことでメトロイドフュージョン！
ナイトメアのところまで言ったんだけど
ボスが倒せないの！
もーこれでまた寝れない夜が眠れなくなると思ってやけになって、
今まででチャージした通常段で挑んでいたんだけど
瞬殺できちゃって、
今までの苦労は何だったの？って
たまにはヤケのヤンパチになるのもありなのね！って思ったわ
パターンを読んで、
敵ボスが定位置に戻るには同こっちが動いたら良いのかしら？って苦戦していたところもうどうにもならないので、
今までのく苦労はなんだったの？って
ちょっと拍子抜けだけど、
あれもうさ、
それよりも迷路が意地悪すぎて
そっちにも苦労する苦戦するのよ。
隠し通路は見えないの。
迷路が意地悪だわーって思いつつ
ナビゲーションシステムの指令にあっちに行ったりこっちに行ったりと
なんか指示されて忙しいわ。
そんでナイトメアを倒したところで
もう寝るに限る！ってことで
寝てしまいました。
またメトロイドで明け暮れる日々よ。
朝ミスった伝票の挽回はもうできたので今日のお仕事はほぼほぼ終了よ。
間違えちゃったわ。
うふふ。
しゃきしゃきレタスも美味しくタマゴといいコンビネーションを歯応えが感じるわ！
朝の元気ね！
思って買っておいてまだ開けてないのを思い出した
冷え冷えの冷たいシュワシュワが朝に効くわ！
すいすいすいようび～
今日も頑張りましょう！
