■日本人が生成AIに苦手なことをやらせるのはアトムのせい

おれたちは生成AIに苦手なことをやらせがち

〇〇について教えて系の質問は全部ダメ。堂々と嘘をつくのは勿論、回答が抽象的すぎて役に立たないことが露呈した。

この批判がまさにそうなのだが、どうもわれわれ日本人は「ChatGPTが一番苦手なこと（≒自分が知らないことを教えてもらう）にChatGPTを使おうとする」という傾向があるらしい。日本の経営者に聞いたChatGPTの使い道のアンケートでは、「仕事で調べものをする時に活用する」が39.3%でトップだ。これが米国の職場でのChatGPT利用法の調査だと、上から順に、

• アイディアを出す
• コンテンツを作成する
• メールに返信する
• プログラムコードを書く
• レジュメやカバーレターを書く
• プレゼンテーションを作成する

となっていて、情報検索や調べもののタスクは上位5位に入っていない。総じて米国の働き手は、ChatGPTを自分に情報をインプットするためのツールではなく、自分が他人に情報をアウトプットするためのツールととらえている。

生成AIは「続きを書くAI」でしかない

深津氏も折に触れて言っていることだが、生成AIは元々「文章の続きを書くAI」であり、それがスケーリング則によって多くの拡張的能力を獲得したものだ。だから一番得意なのは、「プロンプトで与えたテキストを指示通りに加工すること」（校正・要約・分類・翻訳など）と「プロンプトで与えた指示によって、新たにテキストを作り出すこと」（作文・提案・問題作成・コード作成・ロールプレイなど）だ。元々そのようなことを実行するための仕組みなのだから、ここがスイートスポットになるのは当たり前だ。少し触ってみて、何ならうまくいくのか、何だとうまくいかないかを自分なりに検証して結果を見れば、今のChatGPTはテキスト加工器・テキスト生成器として使うのが一番いいということがすぐわかるはずだ。増田自身も

ギリギリ使えるのが長文の要約系と、コーディングの補助くらい。

と書いている。その通り。そこが一番使える用途なのだ。つまり元増田も、体感的にはそれがChatGPTの一番得意なことで、情報検索は不得手だとわかっているのに、不得意なことをバリバリやらせて、その結果に失望している。GPT-3やGPT-4は「2021年9月以後の情報は持たない」と折に触れて回答してくるのにも関わらず、生成AIのハルシネーション問題がこれだけ広く注意喚起されているのにも関わらず、それを調べものに使って勝手にガッカリしているのである。

日本人は生成AIに知性を幻視しがち

これは元増田だけではない。自分の周囲にも、同じことをやって同じようにガッカリしている連中がたくさんいる。おれは、これが日本人が文化的・歴史的に〈ファンタジーとしての汎用人工知能（AGI）〉に馴染みがありすぎるせいなのではないかと思っている。自律思考型のロボットやアンドロイドが登場する数々の創作に触れ続けたことで、我々には「思考能力を持つ、優れたAI」というものの存在が、脳内に〈リアリティある未来〉としてインストールされている。だから、おれたち日本人は、「AIと対話的なテキストコミュニケーションができる」となった瞬間、その対象に一定の知性を仮定してしまう（これはもちろん、ANI（特化型人工知能）にすぎない今の基盤モデルに対しては、高すぎる期待だ）。そして自分の知りたいことを問いかけては、的外れな答えが返ってくることに失望し嫌悪する。これは「知性のようなものが、実際はそうでなかった」ことに対する、一種の「不気味の谷」反応だ。

アメリカ人にとってChatGPTはテキスト加工器

上のサーベイで取り上げたアメリカ人のChatGPTの使い方を見ると、彼らが全くそんな幻想を持っていないのがわかる。これはキリスト教圏における、おそらくは宗教的タブーに紐づいた、人間／非人間のあいだに設定された懸隔の大きさと無縁ではないだろう。彼らは、人間以外の存在には軽々しく知性を見出さず、あくまで〈道具として〉ChatGPTを使役する。だから回答の正否を自分で判断できないようなことは聞かない。テキストの加工器として、あるいはアイディアの生成器として使うだけだ。生成された結果の善し悪しは自分が評価し、使うか使わないかを判断すればよい。そういう道具を使って、作業時間を大幅に短縮しつつアウトプットを仕上げる。そのような使い方が、今のところはChatGPTや生成AIの用法のベストプラクティスということになるだろう。

マイクロソフトにとって生成AIは作業アシスタント

そのことは、マイクロソフトの365 Copilot実装のデモ動画を見てもわかる。スピーカーは、人間が操縦士であり、Copilot（GPT-4ベースのChatGPTの兄弟）はその名の通り副操縦士だとして、両者の主従関係を繰り返しアピールする。Copilotは忠実な僕として、人間がプロンプトで指示したことをやる。娘の卒業パーティのために会場の予約メールから情報を抽出し、友人達に送る招待メールの文面を書き、OneDriveから写真を引っ張り出して、指定したトーン＆マナーでパワポを作成し、画像を生成し、アニメをつける。Wordでスピーチの文案を作らせ、みんなから戻ってきたエピソードを適度に切り貼りさせる。あるいは職場で、商談相手に向けたWordドキュメントを補完させ、それをPowerPointにコンバートさせる。Excelで昨期の売上低下要因について考えられる候補をいくつか出させ、そのひとつを掘り下げて分析させ、ボトルネック要素を改善した場合の予測をさせる。

これだけてんこ盛りのタスクショーケースの中に、「ローカル側にデータが存在しないことに関する情報検索・調べもの」が入っていないのがわかるだろうか。つまり、生成AIというのはそういう使い方をするものではない、という話なのだ。

調べものに使うなら、調べもの用の低能力なAIを使え

確かにBingは出典リンク付きで答を返してくるが、これはGPTのような基盤モデルにとってはあくまで余技の類だ。本来一番得意な「生成」の能力を制約しつつ、リアルタイムブラウジングの機能を持たせた結果、何とかそのように動作するのであって、逆にBingやperplexity.aiはテキスト生成・加工がめちゃくちゃ苦手だ。つまり「正確な情報を返すこと」と「新たなコンテンツを生成すること」は、現状の生成AIにおいては相反する要請だ。どちらかを重視するなら、それが得意なAIにやらせればよい。

裁ちばさみで鼻毛を切るな

ChatGPTを調べものに使って文句を言うやつは、裁ちばさみで鼻毛を切ろうとしていることに気がついてほしい。とにかくおれたちはアトム幻想を一旦捨てなければならない。生成AIは、知性ではなく道具だ。道具だから、お前が使った通りに動作する。動作結果に不満があるなら、用途が間違っているか、指示が間違っているか、その両方だ。

anond:20230531122439

Permalink | 記事への反応(14) | 14:47

ツイートシェア