銃を装備した機械が自ら人を殺すという決断を下すという発想ほど、本能的に人を動揺させる軍事技術は他にないでしょう。これはディストピア小説や映画のテーマであり、軍用ドローンの操縦は依然として人間が担っているにもかかわらず、ドローンに対する抗議運動の火種となっています。兵器の自律化、つまり砲塔や未来の機械が自ら引き金を引くようにプログラムされることは、将来の戦争において確実に起こり得ることです。ワシントンD.C.のシンクタンク、新アメリカ安全保障センターの最新報告書は、武装思考機械の未来を冷静に理解するための指針を示してくれます。
理解を容易にするため、報告書では殺人ロボットに関する大きな疑問を小さな疑問に分解しています。最初の疑問は、機械における自律性そのものの本質についてです。
自律性は複雑ですが、機械について語る際に最も重要なのは、人間が技術に対してどの程度の制御権を持ち、機械がどのような判断を自ら下せるかという点です。国防総省をはじめとする関係機関は、致命的な判断を下す際に人間が関与することの重要性を強く懸念しており、当局はロボットに武器、ましてや超強力な武器を手渡すことなど決して望んでいません。
人間を関与させるための専門用語は「ループ内」ですが、最も重要なのは人間がこのループのどこに位置づけられるかです。
人間を関与させる専門用語は「ループ内」ですが、最も重要なのは、人間がこのループのどこに位置づけられるかです。例えば、周囲の環境をスキャンして標的を探し、それぞれに発砲する前に人間の承認を求めるロボットと、戦場で自ら標的を選択して攻撃してもよいか尋ねるロボットでは状況が異なります。これらは、軍事思想家、ロボット設計者、そして新たな戦争法を起草する人々が皆、考えなければならない問題です。そのため、事前に明確な質問を設定しておくことが重要です。
報告書の著者であるポール・シャーレ氏とマイケル・C・ホロウィッツ氏は、「ループ内」をさらに細かく分析しています。標的を特定するものの発射前に確認を行うミサイルは「人間がループ内にいる」のに対し、標的を選択して自ら攻撃する機械は「人間がループ内にいない」のが現状です。しかし、人間の反応速度よりも速く発射しなければ機能しない対ミサイル砲台のような、防御兵器の自動発射には中間的な側面があります。シャーレ氏とホロウィッツ氏は、このような兵器を「人間がループ内にいる」と呼んでいます。このような場合、兵器は人間の承認なしに発射できますが、人間は将来の発射を阻止することができます。
これらの区別において重要なのは、自律性そのものと同様に、程度の問題であるという点です。自律性をカテゴリーに分けることで、防衛計画立案者、立法者、人権団体は、特により脅威となる「人間が蚊帳の外にいる」という状況において、それぞれのタイプを異なる方法で扱うことが可能になります。
軍用ロボットが将来の戦争に投入されるのであれば、どのロボットが何をするのかを理解するための共通用語が確立されていることが望ましい。『兵器システムにおける自律性入門』は、世界や軍隊が自律型ロボットをどのように扱うべきかについて、すべての答えを提供しているわけではないが、将来、そうした議論をしたい人にとって役立つ用語集を提供している。
レポート全文はここでお読みください。
