「AIの反乱」的な話って、まずそもそも「強いAI」が開発されないことには始まらなくて、現行のAIがどれだけ発達してると言ったって結局は「弱いAI」の域を出ないんだよね。
で、「強いAI」は実現可能か?と言われると、まあいずれ技術的には可能になると思う。問題は、政治的に可能か?というところじゃないだろうか。これから人類がAIを利用して様々な仕事を代替させるとして、実用上「弱いAI」で十分なんだよね。不必要な技術をわざわざ発展させることを、人類が許すかどうかじゃないかな。
「強いAI」を開発するモチベーションって、まず第一にはもちろん「学術的な興味」がある。そしてその次くらいに、↓のような要求が、一部にあるんじゃないだろうか?