近年のECサイトや検索エンジンなどで、「この商品おすすめ」とか、「この動画おすすめ」みたいな表示をしてくれることは珍しくなくなった。
この機能は一見便利に見えるが、少し立ち止まって考えると、かなり危険な機能に思えて仕方ない。端的に言うと、この機能は思想の極端な二極化を招いているのではないか。(トランプvsバイデン、右翼vs左翼、などなど)
人の思想は、インプットされる情報に左右される。同じ傾向の情報インプットが続けば、その思想が強化される。バイアスのかかったインプットではバイアスのかかったアウトプットしか出せないと言うのは何も機械学習だけの問題ではなく人間も同じなのだ。
そして、その傾向はレコメンデーションによって強化されていく。ある動画を見ると、それに近しい動画がレコメンデーションされることになり、結果としてインプットのバイアスが強まり続けることとなる。
IT技術は重要だし必要不可欠といっても過言ではないが、そこから生まれる二極化、断絶というものがあるのだとすると、それに対する打ち手はないのだろうか。
局所最適を回避するために、機械学習であれば確率的勾配急下などランダムネスを利用するところだが、人間がそれをやるのは難しい。何かいい方法はないものだろうか。