それはすぐに起こります。人間であるあなたが完全に処理できるよりも速く起こります。
フロントタイヤがパンクし、自動運転SUVは急旋回する。しかし、左に逸れて対向車線に入るどころか、ロボットカーは右に舵を切る。ブレーキが作動し、システムは修正を試みるが、勢いが強すぎる。まるで安っぽいアクション映画の陳腐なスタントのように、崖から自由落下する。
高額な費用をかけて購入したロボットが、あなたを殺すことを選んだ。衝突対応アルゴリズムは、より小型でロボットではない小型車との高速正面衝突よりも、その方がましだと判断した。あの車には2人乗っていたが、あなたは1人。計算はこれ以上ないほど単純だ。
これは、大まかに言えば、カリフォルニア工科州立大学の哲学准教授であり、倫理・新興科学グループのディレクターを務めるパトリック・リン氏が提起した問題です。リン氏は最近Wired誌に寄稿した論説で、ロボット倫理における最も悩ましい問題の一つを考察しました。衝突が避けられない場合、自動運転車は誰に衝突するかを選択すべきなのでしょうか？
これは単純な思考実験、古典的な「トロッコ問題」のひねりを加えたもののように思えるかもしれない。「トロッコ問題」とは、暴走したトロッコに乗っている5人を救う代わりに、線路上で1人を殺すかどうかを問う倫理的な難問だ。しかし、衝突のシナリオが詳細になるほど、対処が難しくなる。ロボットが、機械的な反射神経と一連の高度なセンサーのおかげで、超人的としか言いようのない感覚と反応速度を持っていると仮定しよう。衝突前の決定的な瞬間に、ロボットは主人を守るために、大型車ではなく小型車を目指すべきだろうか？それとも逆に、ロボットカーの所有者の生存率を下げることになっても、SUVを目指すべきだろうか？そして、スクールバスに衝突するか、木に突っ込むかの選択を迫られたらどうなるだろうか？ロボットは虐殺を選ぶのか、それとも裏切りを選ぶのか？
鍵となるのは、やはり自動車の超人的な存在だ。「大いなる力には、大いなる責任が伴う」とリンは言う。「もしこれらの機械が人間よりも大きな能力を持ち、より高速なプロセッサやより優れたセンサーを備えているなら、それはより良い判断を下すためのより大きな責任を意味するように思える。」
現在の自動運転車は、スパイダーマンというよりはむしろ教習生のようなものであり、交差点で手を振って通行を促す人間のドライバーに気づくことすらできず、ましてや衝突直前の瞬間に、予測される衝撃、死者数、そしてリン氏が「道徳的な計算」と呼ぶものの複雑なマトリックスをくまなく調べることなどできない。しかし、センサー、プロセッサー、そしてソフトウェアは、急速に進歩する傾向にあるロボット工学の稀有な要素である（一方、例えばアクチュエーションや電力密度は、典型的なアナログの頑固さとともに、なかなか進歩しない）。時期は不明だが、自動運転車は最終的に、個々のセンサーを搭載したデバイスとして、あるいは他の車両や接続されたインフラストラクチャと通信し、集合知にしかできないような事象を予測することによって、人間にはできないことを行うようになることは間違いない。
超能力こそが機械の宿命だと仮定するならば、私たちは誰に衝突すべきかという問題よりも大きな問いを問わざるを得なくなります。ロボットが超人になるのであれば、スーパーヒーローとなり、その力を使ってできるだけ多くの人間を救うのが彼らの義務ではないでしょうか？
* * *
この 2 番目の仮説は最初のものより血なまぐさいが、致命的ではない。
兵士の一団がキルボックスに迷い込んだ。そこはGPSで指定されたエリアで、自律型軍用地上ロボットがあらゆる標的を攻撃する許可を得ている。ロボットのセンサーは風速、湿度、気圧を計算し、それから作業を開始する。
射撃はほぼ完璧に命中し、標的はすべて撃墜された。
しかし、命の危険に瀕しているのはたった一人だけだった。他の者のように脚を負傷するどころか、腹部に銃弾を受けたのだ。ロボットでさえも完璧な狙いはできないのだ。
車両は後退し、標的が避難する間、発砲を控えます。
この種のロボットを命の恩人と呼ぶ人はいないだろう。しかし、2年前にDARPAと米国科学アカデミーで行ったプレゼンテーションで、リン氏は全く逆の「もしも」のシナリオを提示した。それは、標的をほぼ全て撃ち殺せるほどの精度を持つ殺人ロボットだ。
リン氏によると、このようなシステムはジュネーブ条約の「不必要な傷害または不必要な苦痛を引き起こす武器」の規制に関する条項に違反する恐れがある。国際赤十字委員会はその後の提案でより具体的なガイドラインを策定し、「戦場での死亡率が25%以上、または病院での死亡率が5%以上」の武器の禁止を求めた。言い換えれば、新たなシステムは、標的を即死させる確率が4分の1以上、あるいは病院での死亡に至る確率が5%以上であってはならない。
「戦争においては、誰にでも公平な機会を与えたいという暗黙の了解があります」とリンは言う。「敵側はおそらく全員が志願兵ではないでしょう。徴兵される可能性もあります。ですから、戦争法は殺害を認めるのではなく、敵の戦闘員を戦闘不能にすることを許可するのです。」頭部を撃つことに特化したロボット、あるいは超人的な能力によって確実に死に至る、非常に効果的だが圧倒的な殺傷能力を持つロボットは、確かに非人道的と言えるだろう。
自動運転車の衝突事故のシナリオと同様に、すべてはそのレベルの技術的確実性にかかっています。人間の兵士や警察官が標的の脚を狙うことは、法的にも倫理的にも求められていません。距離やスキルレベルに関わらず、正確性は単なる人間にとっては決して確実なものではなく、ましてやアドレナリン全開の人間にとってはなおさらです。同様に、どんなに熟練したプロのドライバーであっても、高速道路での突然の衝突直前のほんの一瞬で完璧な操縦、あるいは倫理的に「正しい」判断を下せるとは期待できません。
しかし、もし機械にそのようなレベルの精度を組み込むことが可能なら、人々の期待は必然的に変化するだろう。故意か事故かを問わず、身体に危害を加えるロボットの製作者は、開発中に様々なトロッコ問題に対処し、それぞれに明確な判断を下さなければならない。武装ロボットの設計者にとっては、標的を処刑するのではなく、無力化するようにシステムをプログラムできれば、比較的容易かもしれない。しかし、もしロボットが敵であっても積極的に人間の死を減らすべきであるという明確な選択が下されるなら、見知らぬ二人ではなく、自分の車が自分を殺したという事実を受け入れなければならないのではないだろうか？
* * *
この論理的帰結まで推し進めていくと、SFっぽさが漂い、不安を掻き立てる展開が訪れる。ロボットが人間の命を救い、少数の人間を犠牲にして多数の利益を得られることが証明されたら、一体どんな怪物がロボットにそれ以外の行動をプログラムするのだろうか？
しかし、顧客の安全が最優先ではないと明確に警告する自動運転車を、正気で買う人はいないだろう。
ロボット車両メーカーが道徳的・倫理的に正しい道を歩み、人間の負傷や死亡を差別なく最小限に抑える設計を行えば、最終的に直面する可能性のあるジレンマがこれだ。そのようなことを認めれば自動運転車の普及が遅れるだろうと言うのは控えめな表現だ。「私たちの車を買ってください」とブルックリン・ロースクールの法学教授兼副学部長のマイケル・ケイヒル氏は冗談めかして言う。「ただし、2人乗りの車に衝突するどころか、崖から落ちてしまう可能性もあるので、ご注意ください」
まあ、それはケーヒルが投げかけた仮説であって、私のものではありません。しかし、自動車メーカーに自社の顧客を犠牲にするよう説得したり、規制を強制したりするのは困難でしょうが、大規模な訴訟から身を守る唯一の選択肢になるかもしれません。なぜなら、彼らが何をしようと――カップルを殺そうと、運転手を殺そうと、あるいは無作為に標的を選ぼうと――それは事前に下される倫理的な決断だからです。そのため、被害者やその家族が衝動的に下したのではなく、「ずっと前から、会社の快適なオフィスで」下された決断を詳細に分析し、非難することになるので、訴訟のリスクははるかに高くなる可能性があるとケーヒルは言います。
衝突前倫理に関する普遍的な基準が組み込まれていない限り、超人的な車はまるでスーパーヴィランのように、若い投資銀行家ではなく高齢のドライバーを狙うようになるかもしれない。後者の家族は、相当な額の賃金損失を求めて訴訟を起こす可能性がある。あるいは、もっと残酷ではない言い方をすれば、車の設計者が車のメーカーとモデルだけに基づいて標的を選ぶ可能性もある。「レクサスに向かってハンドルを切るのはやめましょう」とケイヒルは言う。「もし何かにぶつからなければならないなら、もっと安い車にぶつかるようにプログラムすればいいのです。ドライバーはお金持ちではない可能性が高いですから。」
社会全体の利益というシナリオは、ますます魅力的になってきています。実際、法的、道徳的、そして倫理的な観点から見て、これが唯一の現実的な選択肢だと私は主張します。ロボット運転手があなたの安全を守らず、一瞬の躊躇もなく崖から突き落とすかもしれないと考えると、恐ろしいものです。あるいは、もっと奇妙なことに、ネットワーク化された仲間のロボット同士で計画を立て、あなたの車を猛スピードで走るトラックの進路に逸らし、スクールバスにぶつからないようにするかもしれません。しかし、ロボットが生死を左右するほどの力を持つようになったならば、責任を持ってその力を使うべきではないでしょうか？
「ロボットの美しさは、誰とも関係を持たないことにある、という見方もできます。誰にとってもより良い決断を下せるのです」とケイヒルは言う。「しかし、もしロボットがすべての決定を下す世界に住んでいたら、それはディストピアだと思うかもしれません。」
