2020-01-16

anond:20200116150644

そらもとのプログラムが何を制御しているのかに依りにけりだろ。

pepperくんを動かすプログラムだって人間認識して人間にぶつからないような制御人間によってされてるんやで。

一方、ゴールドマン〇ックスが開発したappleカードの与信システム性別判定基準に使ってないにもかかわらず謎に女性差別するような制御に「なってしまった」とされてるで。

ぶっちゃけゴールドマン〇ックス案件プログラム機械学習がメインとなっていく今後のIT世界ではかなりあるあるインシデントだと思うで。

近い将来、(というか過去自動運転なんかで一人を轢くか五人を轢くかの選択を迫られたとき、五人が全て犯罪者だったら五人を轢くみたいな判断勝手にするようになるんやで。

これを制御できるのは「人のエゴ」だけなんやで。

  • ソフトウエア開発の仕事が人間なしでできるレベルになるなら、事務屋も仕事なくなってるだろうな。

    • ガチレスすると教師なし機械学習だって普通にできるんだから 「放っておくと勝手に自己最適化を始めるプログラム」とか、AIと呼べるかわからんが発生する余地はあるぞう。

      • 勝手に進化するプログラム 勝手に進化するプログラムを制御するプログラム   どっちが難しい?

        • 「勝手に進化するプログラムを制御するプログラム」って言い換えれば人のエゴだからな。 難しいかどうかで言えば簡単な方なんだが、政治的なアレが一番壁じゃないか。

          • 勝手に進化するんだから、制御プログラムを超えるように進化しないなら、それは勝手に進化してない。 そうではなくて、制御プログラムで制御できない次元まで勝手に進化するの意味

            • そらもとのプログラムが何を制御しているのかに依りにけりだろ。 pepperくんを動かすプログラムだって人間を認識して人間にぶつからないような制御が人間によってされてるんやで。 一...

          • 勝手に進化するんだから、制御プログラムを超えるように進化しないなら、それは勝手に進化してない。 そうではなくて、制御プログラムで制御できない次元まで勝手に進化するの意味

            • とすると何が起きるか? というと 勝手に制御プログラムを超える進化をしたプログラムを超えるように再新化する制御プログラムを越えるように進化した勝手に進化するプログラムを制...

記事への反応(ブックマークコメント)

ログイン ユーザー登録
ようこそ ゲスト さん