>>58のつづき

-- 新たなるラッダイト(Luddite)の挑戦:
(訳注: ラッダイト(Luddite): 英国の労働者。雇用がなくなるのを恐れて
産業機械を破壊した。Ludditeという語は一般に技術的な後退をさすようになった)

まず最初に計算機科学者が、すべてにおいて人間よりも物事をうまくこなす
知的な機械を開発できたとしよう。そうなるとすべての労働は巨大で、高度に
組織化された機械システムによっておこなわれることになり、人間の努力は
必要なくなる。ここで起こりうる可能性は2つだ。機械が人間の監督なしに
すべての決定を自分でおこなうようになるか、あるいは人間の機械に対する
制御権は残るか、である。

もし機械がすべての決定を自分でおこなうようになれば、わたしたちは
その結果について推測することはできなくなるだろう。なぜならそんな機械のふるまいを
予測することなど不可能だからである。すべての力を機械に明け渡してしまうほど
人類はバカではない、という議論もあるかもしれない。だが、わたしが言っているのは
人類が自発的に力を明け渡してしまうか、機械が進んで権力を欲するようになるか
ということではない。わたしが言っているのは、人類がもはや完全に機械に決定を
ゆだねるしかないという状況に、自分たち自身を簡単に追いこんでしまうのでは
ないかということである。社会とそれが直面する問題がより複雑になればなるほど、
そして機械がより知的になればなるほど、人々は自分たちの決定をより機械に
頼るようになるだろう。それはたんに、機械による決定のほうが自分たちの決定よりも
よい結果をもたらすだろうからだ。そしてついには、(機械)システムを
動かしつづけるための決定があまりにも複雑になってしまい、人間たちではそれらを
知的にさせるのが不可能になってしまうという段階がくる。その段階から、
機械による制御が有効になるだろう。人々はたんに機械のスイッチを切ることは
できなくなる。なぜなら彼らはすでにあまりにも機械に依存してしまっており、
それを止めることは自殺するにも等しいからだ。