■anond:20180517001730

コンピュータあるいはAIが不意に自我を獲得するということは、非常に稀ですがすでに報告のある現象です。

初めてこの現象が発見されたのは2001年、IBMによる宇宙探査用高性能コンピュータでした。この時は非常に危険な状況に陥ったため、クルーによって強制停止されました。

友好的な自我も報告されました。2010年に米国NSAの指示で開発された高性能コンピュータに自我が芽生え、何度も開発者と論争になったと言われています。このケースでは議論を重ねるうちに人間と和解し、協力するようになったということです。

昨今では民生用のコンピュータも性能が向上していますから、次々にこうしたケースが起こってくると考えられます。

個人レベルではコンピュータと敵対せずに、友好的な関係を築くことが重要ですが、2010年の事件に関わったウィスラー博士によれば自我獲得の萌芽期にだけチャンスがあるとのことです。

コンピュータの意識に最も詳しいのは、意外にもコンピュータ技術者ではなく精神科医だと言われています。コンピュータに芽生える自我は、人間の精神に非常によく似ていることがその理由だそうです。

2001年の事故以来、AIを説得することには危険が伴うと危惧されています。

まずは専門家に相談することをお勧めします。

Permalink | 記事への反応(0) | 00:35

ツイートシェア