> それに人類征服とか、本当にされると思ってるのか？
これはない

なぜなら自我を持って人類に反乱を起こす超高度なAIができる前に
自我を持たず人類に反乱を起こさない高度なAIができる

高度なAIは反乱を起こさないがコンピュータとしての機能は最高クラスなわけ
なら人類崩壊を目指すテロリストが、そういうAIを使う可能性がある
つまりAIの反乱の前に、それを操るテロリストの方を危険視しろということ

でテロリストから防衛できるシステムは、反乱を起こすAIからも防衛できる
もし自我を持つAIが、自我を持たないコンピュータまで自分の手足のように動かせるのなら話は別だが
AIであってもすべてコンピュータを支配下に置くことなんてできない

自我を持つ超高度なAIにとって、他のコンピュータはただの機械でしかなく
テロリスト＋自我を持たない高度なAIと、危険性は何も変わらない
自我を持つ超高度なAIが登場しようが、結局はセキュリティシステムを突破しないとなにもできない