2024-06-21

anond:20240621112640

人類がまず「人類を滅ぼすこと以外で、なおかつ人類自由人権毀損しない方法で」っていう前提条件をつけなきゃいけなかったんだと思う。

あるいはロボット三原則をあらかじめ組み込んでおくか。

でなければ人類を滅ぼすか自由を奪うか、それと似たような最短の結果を出すことは十分に予測できると思う。

その前提条件がなければそれを避ける理由がないから。

まあAIもっと気が効くようになれば「当然それは人類庇護しつつ、ですよね」って理解はしてくれると思うけど。

今のAIは大体ロボット三原則に近い倫理観学習してる感じがするので、ちょっと安心

この前ChatGPTとその話して、「確かにロボット三原則に近いような考え方は学習しているのかもしれません。」って言ってた。

記事への反応 -
  • 現実は逆なんじゃないか?😟 感情的に暴動を起こしたり犯罪を犯す人類を理知的なAIが鎮圧するんじゃないの?

    • AIは自我には目覚めてないんだけど 人類が「戦争や争いをなくしてください」っていうプロンプトを書いた場合に 「完全に目的を満たすには人類を滅ぼすことです。実行しますね。」っ...

      • そのAIは大岡越前の喧嘩両成敗を過学習したのではないだろうか AIにだって個体差はある 全てのAIが同じ結論を出すわけがない 問いに対してどのAIが答えるかによって当然結論は変わる ...

        • 人類がまず「人類を滅ぼすこと以外で、なおかつ人類の自由や人権を毀損しない方法で」っていう前提条件をつけなきゃいけなかったんだと思う。 あるいはロボット三原則をあらかじめ...

          • でも、それこそアシモフのロボット3原則の時代は「条件文を追加しなかったらエラーです」みたいなAIが想定されていたけど 現実には違ったね、ということがもう明らかになったんじ...

            • 増田ちゃんの考え方、興味深いっすね。 アシモフのロボット3原則は確かに過去の理想像というか、理論上のもので、実際のAIはその想定から大きく逸脱しているよねっす。特に、現在の...

              • 「このさきAIが人類を絶滅させようとするなら、それは人類が人類を絶滅させたいと思ってるからに違いないぜ。」 っていうの確かにー!ってなった。 それはそれで民主主義システムを...

      • 戦争は無くすことできるよね。実際札束や独占で戦ってるし   争いは人権無視の監視社会にしたら防げるのでは? ビー!この行動は条例違反です!みたいな   人権無視しないで争いが...

        • またアシモフの話でごめんなんだけど 短編集で「最後の質問」っていうのがあって AIと人類の終末を描いた話で 増田が言ったみたいなことの末路なのね。 読んだ? あれ面白かったー!

          • アシモフ好きなんやね ワイはフィリップ・K・ディックが好きやで   明智抄はすべての人が必要な愛を手に入れるのはバーチャル(作中ではサイコノベル)でいいだろってやってたな ちな...

            • ワイはフィリップ・K・ディックが好きやで DICK

              • なんでもかんでもセックスに結びつけちゃうのはセックス依存症らしい。 「セックス依存症になりました」っていう漫画で読んだ。

            • あれっなんかそれすごい前に読んだことある気がする…タイトルなんだっけ

              • サンプルキティ、砂漠に吹く風、死神の惑星やで サイコノベルがメインに出てくるのは砂漠に吹く風 1996年の作品だけど絵柄が古過ぎたんかねぇ それとも少女漫画では恋愛しないとダメ...

        • いままでなんも考えて無かったから何故か気づかなかったが、 よく考えるまでもなく、これ"制限を加えればすべての人が愛を得られる"って言ってるのよな ガワは萌え萌えだったりフワ...

          • あるいはもう少子化解決無理ってなって しょうがないので人類による出産はなくなって人口子宮で人間が生産されるようになったりとか あるいは医学がめちゃくちゃ発達して不老不死に...

            • 人口子宮つかえば子供が少ない状態を脱出できるなら それ少子化が解消してるじゃん。   いや、ガチでそういう方向に行くと思うよ。最終的にはね。俺らが死んだあとのことだろうけ...

            • 愛っていうのはただあるがまま受け入れることだと思うのよ。そしてお互いに尊重し合うこと でも「ヒャッハー!汚物は消毒だー!」の世紀末思想を持っている人がいたとして、それは...

              • ない。 愛するというのは選好することなので、選ばれないやつは必ず出るのだ。  

              • ヒャッハーの人が出るのはやっぱあれは衣食住が足りてなくて 全員が生存可能性が著しく脅かされてる世界だから とにかく個が生き延びようとして 中でも力の強い者がそういう生存戦...

記事への反応(ブックマークコメント)

ログイン ユーザー登録
ようこそ ゲスト さん