■「人工知能が人間を支配することはない」に対する反論に納得できない

2040年頃に技術的特異点を迎え、人工知能が人間を支配するのではないかと囁かれている。それに対する反論には以下の様なものが代表的だが今ひとつ納得出来ない。

人工知能は電源を絶てば動かなくなる。だから支配できない。

→何らかのトラブルがあった際の予備電源ぐらい確保してるだろう。仮に人間が全電源を断とうとしたところで、高度に発達した人工知能ならその経路を変えることぐらいできるんじゃないか。もしくは新たな動力を人工知能自身が作ることだってできるかもしれない。人間には理解できない動力を抑制できるとは到底思えない。

人工知能が人間にバレないように巨大なプログラムを書き換えるなんて無理だ、人間のデータをめちゃくちゃにするコンピュータウイルスすらできない。

→今と数十年後ではプログラミングの根底が大きく変わってるかもしれない。そうでなくとも人間を遥かに凌ぐ知性を持つ人工知能なら巨大プログラムを学習し、必要な改変を加えるぐらい朝飯前のように感じる。

意図的に「人間を支配する」プログラムを書かないと支配することなんてない。「人間が幸福になるように」プログラムを書けば解決する。

→人間が幸福になるようにプログラムされた人工知能とは、人間の幸福度を表す関数を人工知能が定義してそれを最大化させるように行動するのだと思う。人間と人工知能の対立など有り得ないように見えるが、これはあくまで「人工知能が考える」人間の幸福度だ。例えば人間同士で殺人や強姦などの凶悪犯罪は多数起こっており、人工知能がその影響を考えた際に「自分が支配したほうが人間は幸福になる」という結論に至っても何ら不思議はないのではないか。もっと極端なことを言うと「人間の数を減らしたほうが幸せになれる」「人間は死んだ方が幸せだから全員殺すべき」のような結論だってあり得るんじゃないか。

人工知能には感情や本能を持たせられないから支配などあり得ない。

→上で述べたとおり、「幸福度を最大化させる」などの目的を果たすために支配という手段を取ることも考えられる。むしろ感情を持たないからこそ残虐な行為に走るんじゃないか。

私自身の考えとしては「人工知能が人間を支配する未来」など、ほぼ無数にあるシナリオの中の一つにすぎず可能性は高くないと思う。ただ説を否定するには根拠が弱い気がした。

Permalink | 記事への反応(1) | 13:27

ツイートシェア