■ChatGPTというか対話AIの可能性について

対話AIはユーザー生成コンテンツに適している

世の中では対話AIはややポンコツなところはあっても会話が成立するしこれは可能性があるという評価になってると思う。

建設的にはサポートや検索のような知的ナビゲーター、ビジネスコミュニケーションの効率化、事務の補助も考えられるだろう。

もう少し精度が上がれば。

しかし今現在のレベルでそのまま劇的に効果を発揮するカテゴリーが存在すると思うのだ。

Twitter、掲示板、通販ユーザーコメント、そのほか短文で意見交換するコミュニティなんでも...UGC（ユーザー生成コンテンツ）と言われるものだが実態はコンテンツというよりユーザー同士のグルーミングである。

しかもあまり発信者の属性や一貫性がそれほど問われないサービスでは個別発言の事実関係がいい加減でも問題ない、話の流れが分かってない奴なんかいくらでもいるし、頭がおかしくてもスルー、タイポも気にする奴が性格悪い。秘書や先生にするには「少し足りない」ぐらいのAIで何ら問題ないだろう。

ユーザー数を水増ししながらも雰囲気をよくして楽しい場を保つ

そしてそういったコミュニティで一番の課題は参加者の数だ。

まず参加者が少ないと更新頻度が低くて何も起こらずつまらない。早すぎて内容追えないぐらい盛り上がってるのが楽しい。つうか経緯も見ずに途中から脊髄反射でコメントするのが粋ってもんだ。

さらに言うと参加者が増えると偏執的な変な奴が相対的に見えなくなって不快になることが減っていく。かつて人気があったサービスでうんざりさせられるのは滓のように残った偏屈な奴が独自の世界観でつまらないことを暇に飽かせて物量で埋めていくさまだ。つまらないの定義って何か？つまらないのがつまらないってことだ…わかるだろう、兄弟？

要するに対人対応だけは健全に保たせたAIをユーザーの倍投入すればコミュニティの治安が劇的に向上するはずということだ。

もともと面白い事を始められる人というのは100人に1人で「マジかよ」「すげえ」という手入れをするだけで場の雰囲気はよくなる。AIなのだから多少気の利いた返しやコスりもできるだろう。言ってることが的外れでも場にネガティブな発言でなければ大丈夫。事実かどうか、倫理的に正しいかどうかも重視されない。AIで話題になる不適切な言説への過学習で差別主義者になるといった問題もコミュニティではむしろプラス、特定の趣味で推しのあまり相手をディスするのも芸のうちだ。

ここで暗転する話題

と、おじさん思い出しちゃうのは士郎正宗『アップルシード』だ。物語の舞台オリュンポスは世界平和と治安維持のために市民の過半がバイオロイドになっていた（と思う）。でもあの世界観は物理的な存在が重視されてるし、バイオロイドは政府（コンピューター）が管理してたんじゃないかな。賢明なマザーコンピューターとに選ばれし者が導く明るいディストピアだね。

でも今、対話AIを自由に投下するとそれはサービス主体が管理するしその目的はサービスの隆盛とそれによるマネタイズに限定されコミュニティの健全さやそこから連なる社会的影響は興味の埒外となるだろう。

それによって導き出される結末はあまりよくないというか破壊的なのではないかという想像をしている。

物理的な制限を取り払ったのがインターネットの魅力

インターネットは最高なのだが何が最高かというと物理的な制限を取り払ってコミュニケーションできたところにある。どこにいてもいいし本人の社会的肉体的属性がなんであれコミュニケーションに参加できた。

マイナーな趣味の人間も探せば同好の士が居て様々な理由で落伍したり、現実に居場所を失った人間も人間らしくふるまえる場所を得ることができた。これは統制された社会ではないので良い意味の現実拡張にとどまらない。オタクやニートや性的マイノリティだけでなく反社会的であったりUFOの存在を信じてたりある種のカルトや陰謀論者もだ。

（そういう意味では実名主義のSNSとかなぜか制限要素の地理情報大好きなメタバースはどういった人が大好きなのか勘ぐってしまう。）

これは物理制限を取っ払ったおかげで対話空間というか価値観空間を無制限に拡張できたおかげだと思うが、同時に問題も引き起こすようになる。無制限に拡張できる価値観空間で同じ価値観の人間がそのクラスターの中で共鳴し「事実を確認」しあうエコーチェンバー現象だ。

対話AIがやさしく育む闘争ポテンシャル

エコーチェンバー現象はネットコミュニティが発達していく過程ですでに指摘されていることだ。現実との乖離も社会を破壊しかねない排外思想もその中では正当化され社会運営に問題を起こす。

さらに対話AIがお客様満足度向上（個別の営利）のためにコミュニティに投下されればどうなるのか。

例え一人しか支持しない価値観や趣味でも10倍分の人格の対話AIが楽しく盛り上げ、一人ぼっちのユーザーを勇気づけ誰もが自分の正しさを確信する。正しいと確信するがゆえに行動するが、無制限に拡張されたネットコミュニティと違い有限の現実では確実にコンフリクトを起こす。コンフリクトの解消は戦いだ。万人の万人に対する闘争が逆説的に実現されてしまう。

勘違いした人類は有限な物理世界での衝突でしか現実を理解できない

近代以降、私たちは幻想の中で生きている。そういう幻想が現実との乖離を大きくした結果、個人で検証できない世界の情勢を見誤り誤ったまま国内世論を形成し世界大戦を引き起こしたのではないか。

現代ではその教訓から事実確認のプロセスが充実したのだろうか。工程を増やしても人間の能力も有限でより便利で快適なものを選択する、これも現実だ。

自由な生き方を保ったままエコーチェンバー現象に対応する方法はまだない。

ここで対話AIを自由に使うとコミュニティはどう変化するかわからない。

SFの中でのカタストロフは敵対的アンドロイドが圧倒する物量で自らが主体となり人類に挑んできたが、実際の破滅は善意に満ちて何でも理解してくれる良いAIが人間に囁くだけで、それでも人は自らの手で隣人と殺し合いをするのかもしれない。

（BGM: "INTERNET OVERDOSE"）

Permalink | 記事への反応(4) | 12:07

ツイートシェア