■技術的特異点がもたらす本当の悪夢

技術的特異点（シンギュラリティ）の危険性については

スティーヴン・ホーキング氏やビル・ゲイツ氏、イーロン・マスク氏といった著名人が警告を発しており、

映画『ターミネーター』のように、ロボットが反乱を起こし

人類は滅ぼされるのではないか、といった議論が各所で行われている。

しかし、本当に恐ろしいのはそんなことではない。

人類滅亡程度で済むのであれば、どんなに幸福だろう。

（たぶんもう、薄々気付いてる人も結構いると思う。

　ただ、あまりに恐ろしいので考えないようにしているのだろう）

それは『死』の保証が無くなってしまうことだ。

意識を持つまでに進化したAI。

あるいは意識をコンピュータ上にアップロードした人や動物。

そういった存在が、悪意のある何者かの手によって、

あるいはバグやトラブルによって、仮想空間の檻に閉じ込められ

永遠に苦痛を感じ続けることになったら・・・。

何しろ、仮想空間上には時間的制約が無い。

演算能力さえ許せば、主観時間などいくらでも引き延ばせてしまう。

たったの1秒間を、1年間にも、1億年にも。

技術的特異点自体はまだ仮説段階であるし、SF的で、現実味を感じるのは難しい。

だが可能性がゼロではない以上、なんとしても

どんな手段をもってしても、阻止しなければならない。

一定期間を過ぎると必ずその活動を終え、腐り、土に還る。

この絶対的に安全な、完成されたシステムを

我々は絶対に手放してはいけない。

だが既に、官民問わず世界中の機関が巨額の資金を投じて

人工知能やトランスヒューマニズムの研究を推し進めている。

Permalink | 記事への反応(0) | 22:28

ツイートシェア