あなたはすでに従っている：ロボコップと、あまりにも実現可能な脳ハッキングの恐怖

SF映画では、科学は悪役を演じがちだ。空想的な理論や突飛な技術が、古臭い黒い帽子と巨大な口ひげをかぶり、私たちを線路に縛り付けて抵抗する。これらはあくまで冒険物語なのだから、クローン恐竜や捕食性アンドロイドを一般市民に放っておいても構わない。誰か、あるいは何かが英雄によって打ち負かされなければならない。

新作『ロボコップ』は、進歩の代償や神を演じる結果といったお決まりの修辞的な問いに加え、殺人ロボットの開発や人間の脳への侵入の危険性といった、より具体的な問いも投げかけている。質の高い映画かどうかは私には判断できないし、レビューも賛否両論だ。しかし、驚くほど質の高い作品と言えるのは、 『ロボコップ』の最も恐ろしい発想、つまり脳インプラントによって人間を従順なサイバネティック奴隷に変えられるという点だ。

映画の中でこれがどのように起こるかは、知的なリハーサルとしてはなかなかクールだ。重傷を負ったアレックス・マーフィーがロボコップとして再生される際、彼を改造したオムニコープ社は、彼の神経信号を機械の命令に変換する脳インプラントを埋め込み、それを作動させる。マーフィーはこうして超人的なロボットの体を動かすことを考えている。これは、麻痺した被験者が直接神経制御によってロボットアームを動かすことを可能にした現代の実験を未来的にアレンジしたものでもある。また、最新の研究を面白くなるまでスケールアップさせるという、SFの定番のトリックでもある。しかし、そこが面白いところではない。

興味深いのは（ネタバレになるが）、オムニコープが実際にこれらのインプラントをどう活用しているかだ。映画の設定では、企業は海外の紛争地域に武装自律型ドローンを送り込み、脅威とみなされる標的と交戦できる。しかし、人工知能批判で知られる哲学者ヒューバート・ドレフュスにちなんで名付けられたドレフュス法は、米国における自律型武装ドローンの使用を禁じている。「この法律は、意識を持ち、人間の感覚を直接理解し、命を奪うことの意味を理解し、命を奪うことが許される存在だけが対象であると定めている」と『ロボコップ』のホセ・パジーリャ監督は語る。「そのため、米国ではロボットが引き金を引くことは許されていない。オムニコープは巨大な市場を奪われている。そのため、彼らは法律を回避する方法を見つける必要があるのだ」

解決策はロボコップだ。脳が（ほぼ）無傷で、意思決定も彼自身であるため、デトロイトの路上で致命的な武力を行使することが許可されているサイボーグのプロトタイプだ。残念ながら、ロボコップも計算された偽物だ。マーフィーの頭の中のインプラントは、神経活動を制御信号として書き換えるだけでなく、脳に信号を返送している。ロボコップが犯罪に反応するときは、事前に設定されたアルゴリズムに基づいている。同時に、インプラントはマーフィーの灰白質を微妙に調整し、彼がとったすべての行動は彼のアイデアであると信じ込ませている。ロボコップは自律型ドローンであり、作成者によって設定されたルールとプロトコルに従います。「システムは自由意志の幻想を作り出します。オムニコープは、自分が人間であると考える機械を作っています」とパジーリャは言う。

アリゾナ大学の神経科学者でロボット工学者のチャールズ・ヒギンズ氏によると、この種の陰険なマインドコントロールには実験的な前例があるという。「ラットでは実際にそれが実現しており、ラットをほぼ完全にコントロールし、脳の中枢を刺激して神経伝達物質を放出させることで、ラットをある方向に向かせることができるのです。ラットが正しい行動をとった時に、この神経伝達物質はラットに快感を与えます」とヒギンズ氏は言う。「つまり、人間でも同じことが可能なのですが、完全に倫理的ではありません」

人が刺激に気づいていない限り、こうした微細な快楽の波は人間を根本的なレベルで条件付け、新たな本能を生み出したり、古い本能を書き換えたりする可能性がある。「脳は信号を認知的に適切な方法で解釈するのが非常に得意です」とヒギンズは言う。言い換えれば、脳は事実上自らを洗浄することになる。高度な義肢から自己合理化マインドコントロールまで、ヒギンズはロボコップ、つまりサイボーグ自身のコンセプトが、映画の2028年というタイムラインにおいて技術的に実現可能だと考えている。

ロボコップの脳レベルの制御方式は、神経科学における最も憂慮すべき真実の一つにも触れている。「知能がどのように機能するのか、私たちは実際には全く分かっていないのです」とヒギンズは言う。そこでパジーリャは、マーフィーを遠隔操作ドローンのように操作したり、彼の心を本格的な生物学的コンピューターに変えたりできると考えるのではなく、脳の複雑さ、そして時に不安を掻き立てるほどの可塑性を尊重しようとした。ロボコップは常駐の人工知能に乗っ取られているわけではない。彼は無意識のうちに協力者となり、自分が制御していると思い込んでいるのだ。

生物学とロボット工学の融合は、サイボーグ警官が犯人を銃で撃ち殺し、怪物のような二足歩行の軍用ロボットと格闘するような事態にはおそらく至らないだろう。パジーリャ氏は、「法執行機関は自動化される。それは間違いない。そして、それが実現すれば、そしてそれはかなり近い将来に起こるだろうが、 『ロボコップ』で議論されているすべての問題が現実のものとなるだろう」と確信している。個人的には、自律型殺人ロボットは避けられないどころか、望ましいとも思っていない。しかし、『ロボコップ』には、今後数年間でより切迫したものになる可能性のある、実に恐ろしい未来が秘められている。脳は、将来の防衛関連企業、アプリ開発者、マルウェア配布者によって認知能力を操られるだけで脆弱なわけではない。この忌々しいロボットは、自らのハッキングの功績を自分のものにするかもしれないのだ。