■AIの学習はやはり天然知能の学習とは違うなと思うこと

当方，機械学習歴15年のエンジニア．なので古典的なAIから最近のTransformerなどまでは一般人よりは理解しているレベル．

ChatGPTはすごいので毎日使ってるし，Stable diffusionも毎日のように使ってるんだけど，やはり古典的な統計的機械学習と同じで知能じゃないなと思うことが多い

ChatGPTやStable diffusionを腐すつもりはなく，道具として素晴らしいし，今後さらに精度向上が見込まれ，我々が想像もできない使われ方がされるだろう

でも，Stable diffusionがあれほどぱっと見上手な絵や写真を生成できるのに，手の指がおかしいというのは天然知能では起こり得ない間違え方である

最近はGPT4では少しずつ減ってきているがChatGPTのハルシネーションの間違え方もすごい

これらの間違え方って本人が意味がわかってないけどその辺のWebページに書いてあることを繋ぎ合わせて作った学生のレポートもどきにそっくりなんだよなぁ

その意味ではAIは天然知能っぽいとも言えるのだけど，天然知能の学習プロセスでは偽物を生成しないように学習するのに対して，

AIの現在の学習はそれっぽいものを作るのに特化しすぎているように思える．ある意味で拡散モデルの限界のように感じていて，更なる別のパラダイムが必要なんだろうな

Permalink | 記事への反応(2) | 12:55

ツイートシェア