なんとなくは理解できる話で助かる。で、やっぱり課題は「人類の役に立て..

なんとなくは理解できる話で助かる。

で、やっぱり課題は「人類の役に立て」って部分だと思うわけ。

ロボット三原則だのなんだので、

人間を傷つけてはならないだとかなんとかって話になると思うけど、

「人間を傷つけない」ってルールが矛盾した場合にどうするか、

人間同士で利害が対立して争いが生じた場合にどうするか、

みたいなことが起こり得ると思う。

個人を守るのか、人類全体を守るのか、みたいな選択だってあり得るでしょ。

そうなったときの判断基準をAIにどうやって与えるのかが、興味あるところ。

上の俺のトラバでは禁則処理って書いたけど、

あなたの言葉でいえば「不可侵の部分」とか「貢献欲」の部分をどうやって設定したらいいのかな。

（あなた個人に問いかけているのではなくて、俺個人の疑問点の提示です。）

Permalink | 記事への反応(1) | 17:10

記事への反応 -

http://anond.hatelabo.jp/20151023162222
ロボコップ見てないし、俺が勉強不足なのも認めるけど、「これはやっちゃダメ」って処理を明確にしておいて厳守させないからフィクションの中ではAIが暴走したりするんじゃないの...
- http://anond.hatelabo.jp/20151023163722
  AIはフィクションの中ではさも人格があるかのように扱われるが、肉体と精神を持たないAIの思考は生物由来の思考とは極めて異質かつ理解し合えないものになると予想している。およ...
  - http://anond.hatelabo.jp/20151023165221
    なんとなくは理解できる話で助かる。で、やっぱり課題は「人類の役に立て」って部分だと思うわけ。ロボット三原則だのなんだので、人間を傷つけてはならないだとかなんとかって...
    - http://anond.hatelabo.jp/20151023171030
      「人間を傷つけない」ってルールが矛盾した場合にどうするか、人間同士で利害が対立して争いが生じた場合にどうするか、みたいなことが起こり得ると思う。極端な話、AIの製...
      - anond:20151023173456
        ベストはそうかもしれないけど、善悪の判断基準なんて現状では人間同士ですら共有できてるとは言い難いのに、 AIに教示できるものなのかなあ。初めのほうの話に戻ると、フィク...
        http://anond.hatelabo.jp/20151023183948
        すまん。あとから置換するつもりがそのまま投稿してしまった。「正しさ」というのも曖昧な価値観だから決めることは難しいだろうな。どちらかというと道徳的観念を突き詰めるの...
        http://anond.hatelabo.jp/20151023191328
        HAL9000「いや、そんなん考えなくても自己という概念があればそれでええやん」
        anond:20151023191328
        自動車の普及で道路交通法が整備されたみたいに、AIに合わせた法整備は必要になるだろうね
  - http://anond.hatelabo.jp/20151023165221
    AIと人間しか対立項として考えられない増田の嗜好の幅の狭さよ。ラピュタ位見たやろ？　ラピュタのロボット兵は人間おらんなかどう動いてたよ。 Wall-Eも見ろよ。そもそも目的の中に...
- http://anond.hatelabo.jp/20151023163722
  MQ-9「そうだよね、人間に危害を加えてはいけないよね（棒読み）」
- http://anond.hatelabo.jp/20151023163722
  これはやっちゃダメって定義が難しいの、分からないかなー。老人の肩をたたく勢いで子どもの頭を叩いたら暴力。老人と子どもの見分け方を慎重で定義すると身長が低い老人は買叩...
  - http://anond.hatelabo.jp/20151023171505
    ディープラーニング「繰り返し試行していけば分かるだろ、それくらい」