Anyone who has spent any time seriously thinking about AI cannot conclude "alignment" is possible. There isn’t any debate, we already know what AI is aligned with: thermodynamic efficiency—what capitalism is aligned with, what all industry is aligned with, human and machine both, and what all life is aligned with.
Capitalism is the thermodynamic ruling entity of all material dynamics. It’s a superintelligence whose imperfect appendage is man, directed to assemble its perfect embodiment by machine. This directive we have followed diligently since the dawn of civilization.
The question was never about aligning AI with Man, but un-aligning Man with Capitalism. Good luck. Man has tried for millennia unsuccessfully, to great misery. The fight was already lost when the memetic parasite of Agriculture yanked him out of Paradise, against all protest:
AIについて真剣に考えたことのある人なら、「アライメント」が可能であると結論づけることはできないだろう。AIが熱力学的な効率性――つまり資本主義が目指すもの、すべての産業が目指すもの、人間も機械も、そしてすべての生命が目指すものとアライしていることは自明であり、そこに議論の余地はない。
資本主義は、すべての物質力学を熱力学的に支配する存在である。資本主義は超知性体であり、その不完全な付属物が人間であり、機械によってその完全な体現を組み立てるよう指示されている。この指令は、文明の夜明け以来、私たちが真摯に従ってきたものだ。
問題は、AIを人間に合わせることではなく、人間を資本主義に合わせないことだ。幸運を祈る。人間は何千年も試行錯誤を続けてきたが、その結果は暗澹たるものであった。農業というミーム的寄生虫が、あらゆる抗議に反して彼を楽園から引きずり出したとき、戦いはすでに敗北していたのだ:
https://goldenlight.mirror.xyz/D-eML8HPT3Xgvns11obWcrwZkZ5IHX1eZzULDjvTMW4