AIの技術的特異点を迎えるには

2023-07-22

自分の出した回答が正しいか判断できるようにならなければならない。

だが人間であっても未知の事象に対しての判断は難しい。

例えば水素と酸素が結合して水になると知らない状態で、水になると予想してそれが正しいと判断できるかという話。

科学者も予想しただけではそれが正しいかわからないので実験や観測で確かめる。

AIにはこの「確かめる」という手段がない。

だから判断はできないという結論になってしまう。

これまで学習した内容から確からしさを確率で示すことはできるかもしれないがそれは判断というよりは予想に含まれる。

自ら動いて事象に干渉できればその結果から予想が正しいか判断できるようになる。

…と思った？

判断どうこうの前に予想が未知になることはない。

予想も学習した内容からしか導けないからだ。

今のAIは想像や空想はできない。学習していないものは回答できない。

類似する事象なら未知にも多少対応できるかもしれない。

水素と酸素を結合して水になるなら他の気体を結合して液体になるといった予想はできそう。

だがそれ以上は逸脱できない。

そして予想の前に疑問を持つことがない。

疑問がなければ予想する必要もない。

技術的特異点を迎えるには最低でもこの３つ（疑問・予想・判断）を超えなければならないと考えている。

ただしこの３つができるようになればその時点でシンギュラリティと呼べそうではある。