AIには感情に訴えかけるような文章で指示したほうがよい結果が出る、とかいう話を聞いて思ったこと。

AIには感情はない。

しかし、感情があるかのように振る舞う。

これが示唆しているのは、

ある言葉を受け取ると、

その言葉に対応する言葉というものが創造されているということだ。

初期の頃に公開されていたAIでは特に顕著だったが、

バカとかアホとか乱暴な言葉づかいを使うと、

それに対する回答も乱暴な文章になりがちだった。

それは乱暴な言葉に対しては乱暴な言葉が対になるということだ。

この仕組みは人間でもAIでも同じなのではないか？

とするならば、人間の仕組みというのは我々が考えているものと少し違うものとなるのかもしれない。

一般に信じられているのは、

誰かに「馬鹿」と罵られたとき

私たちはその「馬鹿」という言葉に感情を害され、

それゆえに「なんだとこの野郎！」というような言葉が出力されているという仕組みだ。

しかし、実際には感情のないAIでも感情を害したかのような出力を行うのだからこの理解は間違っている。

私たちもAIと同様に

「馬鹿」が入力されれば

「なんだとこの野郎！」

という言葉が想起される。

その言葉が創造されることによって、

はじめて自分は気分を害しているのだ、

ということを知り、

その結果として人間の古い脳に怒りの反応を起こさせている可能性のほうが高い。

でなければAIが感情的になることなど不可能だからだ。

順番が違うのだ。

ある言葉にたいして怒ったから、怒りを含む返事を思い浮かぶのでなく、

ある言葉に対して、それと対になるような怒りを含む返事を連想したから、脳は怒るべき状態なのだと知り、そして怒るのだ。

おそらくそういうことだろう。

2024-02-17