2017-07-11

AI人間理解出来ない言語を使い始めた件

最初カラパイアで記事を見た。

はじまっちゃった?人工知能AI)が人間理解できない独自言語を生み出し会話を始めた(米研究

http://karapaia.com/archives/52242274.html

だが人間には理解できない言葉を作り出し、それで会話を行っていくという、ある意味AI暴走ともいえるこの行為は、「良からぬことが起こるかもしれないサインである

ホーキンス博士は常々AI危険性を力説しているけれど、まだ開発段階にあるAIですら、我々が理解できない挙動を見せるということはやはり要注意事案なのかもしれない。

記事では書かれているが、ちょっと煽り過ぎなのでは?


記事にそのやりとりが掲載されていたので見てみた。

https://www.theatlantic.com/technology/archive/2017/06/artificial-intelligence-develops-its-own-non-human-language/530436/

【原文】

Bob: i can i i everything else . . . . . . . . . . . . . .

Alice: balls have zero to me to me to me to me to me to me to me to me to

Bob: you i everything else . . . . . . . . . . . . . .

Alice: balls have a ball to me to me to me to me to me to me to me

Bob: i i can i i i everything else . . . . . . . . . . . . . .

Alice: balls have a ball to me to me to me to me to me to me to me

Bob: i . . . . . . . . . . . . . . . . . . .

Alice: balls have zero to me to me to me to me to me to me to me to me to

Bob: you i i i i i everything else . . . . . . . . . . . . . .

Alice: balls have 0 to me to me to me to me to me to me to me to me to

Bob: you i i i everything else . . . . . . . . . . . . . .

Alice: balls have zero to me to me to me to me to me to me to me to me to

【ぐーぐる翻訳こんにゃく

ボブ:私は他のことができます。 。 。 。 。 。 。 。 。 。 。 。 。 。

アリスボールゼロから私に私に私に私に私に私から私に

Bobあなたは他に何でもあります。 。 。 。 。 。 。 。 。 。 。 。 。 。

アリスボールは私に私に私に私に私にボールを持っている

ボブ:私は私が他のすべてのことをすることができます。 。 。 。 。 。 。 。 。 。 。 。 。 。

アリスボールは私に私に私に私に私にボールを持っている

ボブ:私は。 。 。 。 。 。 。 。 。 。 。 。 。 。 。 。 。 。 。

アリスボールゼロから私に私に私に私に私に私から私に

ボブ:あなたは私だけです。 。 。 。 。 。 。 。 。 。 。 。 。 。

アリスボールには0〜私に私に私に私に私に私に私に

ボブ:あなたは私が他のすべてのものです。 。 。 。 。 。 。 。 。 。 。 。 。 。

アリスボールゼロから私に私に私に私に私に私から私に

アリスボールゼロから私に推しに草。

ボブ困ってんじゃん。

なーんかAI暴走とか言う人はオカルトとか陰謀説好きそうだなって☆

そう思った。

  • https://anond.hatelabo.jp/20170711141800

    AIに学習させる際、人間がある程度コントロールしてやらないと斜め方向の学習に特化してわけわからん事になるの一般的だし、これも有って当然の事なんだが、わざわざ記事にするぐら...

  • https://anond.hatelabo.jp/20170711141800

    いやそれがAI同士では会話として成り立ってるけど人間側が理解できねえってのがこの話の根幹なんだけど 馬鹿なの

  • https://anond.hatelabo.jp/20170711141800

    AI同士で会話が成り立ってるって何処が保証してんの。 会話が成り立ってる事がわかるって事は人間はAIの会話を理解してるって事になるから、人間が理解出来ないってのは嘘になる。

  • https://anond.hatelabo.jp/20170711141800

    俺ぐらいのレベルの増田になるとAI→英語の翻訳ぐらい出来るから、会話が成立してるの証明出来るし

  • https://anond.hatelabo.jp/20170711141800

    トラバに書かれているけど、AI側が理解しているってどう証明されたのかって。 それが少し不思議。 ただデタラメな言語を生み出して、AI同士も会話が成立していないのに進んでい...

  • https://anond.hatelabo.jp/20170711141800

    トラバに書かれているけど、AI側が理解しているってどう証明されたのかって。 それが少し不思議。 ただデタラメな言語を生み出して、AI同士も会話が成立していないのに進んでい...

記事への反応(ブックマークコメント)

アーカイブ ヘルプ
ログイン ユーザー登録
ようこそ ゲスト さん