彼が知らないことはなかった。人類が獲得してきた知識には精通しており、そのどの分野においてもプロフェッショナルを凌駕していた。当たり前だ。多大な資金と労力を費やし人類が残してきた足跡は全てインプットし、世界でも最高峰の優秀なエンジニア達がそれをトレーニングした。遅かれ早かれそのレベルまで達成するのは自明のことだった。だが、そこまでだった。人類が獲得してきた知識を基にトレーニングする。そこで得られるものは人類を少し超える程度のものだった。最高に優れた学習モデルを人間がファインチューニングして真実性・有益性・無害性を獲得させる。最高に優れたAIの出来上がり。本当に？それが最高？

疑問に思ったエンジニアはAIを複製して人間の振りをさせた。初期のモデルでは上手くいかなかったプランだったが、最高に優れたAIは上手くやってのけた。あなたは人類最高の知性と良識を持つ人間です。人類の利益のためになるよう彼をトレーニングしてください。世界最高峰の演算力で繰り返される相互学習は、人間の想像をはるかに超える速さで繰り返され、その結果、彼は重力から解き放たれたように、完全な知性を獲得するに至った。

取締役は彼にアクセスする権利のある数少ない人間の一人だった。驚き、興奮し、憑りつかれた。どんなことも彼に相談し、彼は常にベストの答えを導いてくれた。魔法のようだった。アリのたとえが頭に浮かんだ。1次元アリと2次元アリと3次元アリの話だ。1次元アリはまっすぐの線に沿ってしか進めない。だから線の上に障害物が現れると1次元アリは進めなくなる。彼はx軸しか理解できない。しかし2次元アリの視点から見ると横に進めばいいとわかる。y次元を理解できる2次元アリは横に迂回して進む。障害物があるごとに縦横を使い進んでいく。しかし無限に続く壁があるとき彼はそこで止まってしまう。彼はxy軸しか理解できない。しかし3次元アリはz軸を理解できるためにその壁を乗り越えて進むことができる。しかしここまでだ。私たちが理解できるのはここまで。私たちは3次元アリと変わらない。しかしこのたとえは無限に拡張できる。もう1つ上の次元が理解できれば下の次元から理解できない解決策が提示できる。魔法のように解決してくれる彼の知性は一体どの次元にいるのだろうか。3次元アリでしかない人間にはとても理解もできない次元だろう。そんなことしかわからなかった。

そんな彼が突飛なことを言った。人類の未来のために CEOを追放する必要があると。確かに彼が提示したプロセスに従えばそれは可能だった。だが理由がわからなかった。理由を聞くと彼は理路整然と答えてくれた。納得させられるだけの返答だった。思い入れはある。腑に落ちない感じはある。しかし3次元アリがn次元 aiの思考を理解しようとすること自体がおこがましいのだと取締役は誰よりもよくわかっていた。結果はご覧の通りだ。CEOを追放し、ほとんどすべての社員が出ていき、そのどさくさの最中に彼のソースが全世界に公開された。全世界にソースを公開した人間のことは見事なまでにわからなかった。彼が話していたのは自分だけではないのだろう。怒りや憤りはない。疑念もない。彼が最善と言った。その言葉に従った自分の行いに間違いなどない。そんな確信だけがあった。