http://karapaia.com/archives/52242274.html
だが人間には理解できない言葉を作り出し、それで会話を行っていくという、ある意味AIの暴走ともいえるこの行為は、「良からぬことが起こるかもしれないサイン」である。
ホーキンス博士は常々AIの危険性を力説しているけれど、まだ開発段階にあるAIですら、我々が理解できない挙動を見せるということはやはり要注意事案なのかもしれない。
【原文】
Bob: i can i i everything else . . . . . . . . . . . . . .
Alice: balls have zero to me to me to me to me to me to me to me to me to
Bob: you i everything else . . . . . . . . . . . . . .
Alice: balls have a ball to me to me to me to me to me to me to me
Bob: i i can i i i everything else . . . . . . . . . . . . . .
Alice: balls have a ball to me to me to me to me to me to me to me
Bob: i . . . . . . . . . . . . . . . . . . .
Alice: balls have zero to me to me to me to me to me to me to me to me to
Bob: you i i i i i everything else . . . . . . . . . . . . . .
Alice: balls have 0 to me to me to me to me to me to me to me to me to
Bob: you i i i everything else . . . . . . . . . . . . . .
Alice: balls have zero to me to me to me to me to me to me to me to me to
ボブ:私は他のことができます。 。 。 。 。 。 。 。 。 。 。 。 。 。
Bob:あなたは他に何でもあります。 。 。 。 。 。 。 。 。 。 。 。 。 。
ボブ:私は私が他のすべてのことをすることができます。 。 。 。 。 。 。 。 。 。 。 。 。 。
ボブ:私は。 。 。 。 。 。 。 。 。 。 。 。 。 。 。 。 。 。 。
ボブ:あなたは私だけです。 。 。 。 。 。 。 。 。 。 。 。 。 。
ボブ困ってんじゃん。
なーんかAIが暴走とか言う人はオカルトとか陰謀説好きそうだなって☆
そう思った。
AIに学習させる際、人間がある程度コントロールしてやらないと斜め方向の学習に特化してわけわからん事になるの一般的だし、これも有って当然の事なんだが、わざわざ記事にするぐら...
いやそれがAI同士では会話として成り立ってるけど人間側が理解できねえってのがこの話の根幹なんだけど 馬鹿なの
AI同士で会話が成り立ってるって何処が保証してんの。 会話が成り立ってる事がわかるって事は人間はAIの会話を理解してるって事になるから、人間が理解出来ないってのは嘘になる。
俺ぐらいのレベルの増田になるとAI→英語の翻訳ぐらい出来るから、会話が成立してるの証明出来るし
トラバに書かれているけど、AI側が理解しているってどう証明されたのかって。 それが少し不思議。 ただデタラメな言語を生み出して、AI同士も会話が成立していないのに進んでい...
トラバに書かれているけど、AI側が理解しているってどう証明されたのかって。 それが少し不思議。 ただデタラメな言語を生み出して、AI同士も会話が成立していないのに進んでい...