PLOS ONE誌に掲載された最近の論文で、ドイツの研究者たちは89人の大学生に、小さな明るい目をしたロボット「Nao」とチームを組んで質問に答えたり、簡単なタスクをこなしたりするよう依頼しました。これは、バディコメディにふさわしいロボット同士のパートナーシップです。しかし、実験心理学ではよくあることですが、これらのタスクは、本来の研究課題である「人間がロボットの電源を切らなければならなくなったらどうなるのか」から目を逸らさせてしまいました。
今月初め、 The Vergeが報じたところによると、43件のケースで「ロボットは参加者に暗闇が怖いと訴え、『ダメ！スイッチを切らないで！』と懇願するほどの抗議行動を起こした」という。研究者の予測通り、参加者たちはそれまでパートナーとして共に活動してきたロボットのスイッチを切るのに苦労した。ロボットが何も言わなかったグループと比較して、ロボットの電源を切るのに平均2倍の時間を要した参加者は30人だった。そして13人は指示に全く従わず、ナオの電源を入れたままにしていた。
「人々はロボットをある程度生きていると認識しています」と、人間とロボットのインタラクションの第一人者であるクリストフ・バートネック氏はメールで述べています。映画やロボットをまるで人間のように扱うこの現象は「メディア方程式」と呼ばれています。そして、これは深刻な道徳的ジレンマを生み出す可能性があります。
2007年、バートネック氏は同様の実験を行いました。猫のような喋るロボットが命乞いをしましたが、観察していた科学者が参加者全員に強制的に電源を切らせました。この実験では、最終的には100%の人が従いましたが、それは容易なことではありませんでした。バートネック氏によると、ロボットをまるで本当に生きているかのように扱うということは、「特にロボットが記憶や人格を失ってしまうような状況では、電源を切ることをためらう」ということです。
人間の知覚と人間の行動の柔軟性を理解するための研究は、50 年以上にわたって実験心理学者とその同僚たちの焦点となってきましたが、その方法は常に…問題を抱えるものでした。
1960年代、イェール大学の心理学者が、その時代の最も切実な実存的疑問を検証する方法を考案しました。権威への服従は、一見善良な人々を、一般的に悪とみなされる行為に駆り立てるのに十分でしょうか？
研究者スタンリー・ミルグラムは、研究参加者を研究室に招き入れ、教師の役割を与え、学習と記憶を研究するという名目で「生徒」にどんどん強い電気ショックを与えるよう指示しました。ショックがエスカレートするにつれ、生徒（実は研究チームの一員であり、実害は受けていない）は解放を懇願し、痛みと苦痛の兆候を示しました。参加者の中には実験の続行を拒否する者もいましたが、それでも約65%の参加者は最も強い電圧を与え続けました。
発案当初から物議を醸したこの実験は、「極度の神経緊張を引き起こした」とミルグラムは1963年の最初の研究で記している。「大量の発汗、震え、吃音は、この感情の乱れの典型的な表現だった。緊張の予期せぬ兆候の一つは、いまだに説明されていないが、神経質な笑いが頻繁に起こることだった。」参加者は、途中で諦めたか、最後までやり遂げたかに関わらず、怒りに震えていた。
私たちはロボットにまるで人間であるかのように接し、ミルグラムが数十年前に観察したのと同様の苦痛の兆候を経験する傾向があるが、研究者たちはいくつかの複雑な要因を特定している。懇願するロボットを拒絶するかどうかの判断は、ロボットの価格や品質、（実用性と比較した）社会性（最近のドイツの研究ではこの要因が操作された）、さらには人種や民族として認識される可能性のある機械の色彩などに影響される可能性がある。こうした要素は、私たちが作り出したこれらの機械との関わり方を形作る。PLOS ONEの論文の著者たちは簡潔にこう述べている。「人々は異なるメディアと交流しているとき、まるで別の人間と交流しているかのように振る舞い、無意識のうちに幅広い社会的ルールを適用することが多い。」
これらの反応は馬鹿げている、あるいは取るに足らないものに見えるかもしれない。しかし、人工知能研究者たちは、特にロボットが家庭や公共生活にまで浸透するにつれて、私たちがロボットに敬意を払うことがもたらす結果を懸念している。「現代のロボットには、電源を入れたままにしておくことを正当化するほどの知能はない。現代のロボットは気にしない」とバートネック氏は書いている。「私たちは自らの創造物に敬意を払う必要があるが、SFに騙されないようにする必要もある」。彼はAmazon Echoは『ウエストワールド』ではないし、Naoは『ブレードランナー』でもないと言う。
結局のところ、仲間の人間にショックを与えたときに感じる罪悪感は良いものです。しかし、ロボットに関しては、遠慮なくそれを止めてもいいとバートネック氏は言います。
