AIはアホを最初に学習する。

2019-12-23

……みたいなのが軽くバズってるのを見た。内容としてはAIはヘイトやナチズムを簡単に学習してしまうというものだ。

これが事実か虚偽かは瑣末な事なので論じないが、もしも事実とするなら理由は簡単である。

このAIが如何なるものを指すかは知らないが、どうせ今のAIというのは単なる学習プログラム以上のものではない。多少高度なものでもニューラルネットワーク系の神経学習モデルにすぎないだろう。

まあ大体が人間の話す内容を理解して回答するのではなく、人間がインターネット上に書いた文章を大量に集めた上で、その中から｢数が多いパターンの文章/類型を学習して返す｣という程度の能力しか無いのである。

そして大体のAI 設計者は、それを単に強大なマシンパワーでもって大量に学習させれば人間っぽくなる……と思い込んでるかのような、そういった単純設計しか行わない。

神経を模すだけで人間の精神が完成するなら、脳がわざわざ大脳小脳なんて分化する必要もないし、虫だって脳サイズが大きければ人間レベルの知性になるはずだ？そんなわけがないだろう。アホか？

素人目線で言わせて貰えば、その程度の学習プログラムでAIだなんだと言ってる人間の大半は、実際には本気で人間の知性を真似ようとしてない人間が大半だと私は思う。

まあ人間本来の能力は素晴らしいものがあるので、ちゃんとしたガチ勢なら多少マシなプログラムを書いてると思いたい……というか、この情報って何十年か前の話だよね？マジで現状こんな程度のAI しか作れてないとか有り得ないでしょ…………

それはそうとして何故に今の自称 AIがヘイトやナチズムを簡単に学習するかと言えば答えは簡単で、ヘイトやナチズムは｢◯◯＝□□｣という単純な図式で構築可能だからである。

それも、これらの多くは物事を｢Aは善、それ以外は悪｣という二元論として構築されることが殆どだ。

例えば｢黄色人種は最高！｣とか｢それ以外はクズ！｣みたいな風にだ。

このような論理は単純であるが故に、意味理解を伴うことなく非常に容易に学習できる。しかもコンピュータでなくとも、このような論理はデジタルな思考をする人間にとって非常に親和性が高い。

そして人種や性別というのは人間の誰もが持っているので、これに対する意見の集積は容易である。

これは人間であれば尚更で、仮に会話や文書の内容として直接そのような事を書かなかったとしても、そういった相手の特徴に意識を向けながら会話するだけで誤学習する事すらある。

結論としては、人間 AIを問わず、｢◯◯＝善(正)、それ以外は悪(誤)｣という二元論は覚えやすい毒論理であり、そういう二元論自体を学習しないようにすべきである。

そういうことなのだ。とっぴんぱらりのぷう。