今僕らが生きるシステムがユートピアでないのは、それが『人間によってデザインされたものではないからだ』
乾燥した地形を眺めて、川が将来どんな形になるかを水が重力に従うと仮定すれば分かるように、文明をみて人々がインセンティブに従うということを予測すればどのような機構ができあがるかを予測できる。
だけどそれは、川の形が美しさといった人間の価値観のために作られた訳ではなく、むしろ乱雑に生成された地形の結果であるのと同じく、全ての社会的機構は繁栄や正義の為に作られた訳ではなく、ただランダムに決定された初期条件の結果であるということだ。
人々が地形を塗り替え、運河を作ることができるように、人間もより優れた機構のために、動機の形を作り替えることができる。だけど「それ」が行われるのは動機付けられた場合のみであり、いつもではない。結果として、むちゃくちゃな支流や激流なんかがとても奇妙な箇所に現れることになる。
[...] まるで、最初の雨が降るはるか前から地形の中に運河の流れが埋まっているように、カエサルの宮殿は存在する前から神経生物学、経済学、そして監督制度に潜んでいたにすぎない。設計した建築家は、半透明な幻影の線に従って本物のコンクリートを埋めていただけだ。
https://tatuichi.hatenablog.com/entry/2019/10/24/211331
人間がAIを作りシンギュラリティを起こすことは宇宙の誕生時点で決まっていたのかもなあ
偶然すらも必然に過ぎなかったと