私が勤務するペンシルベニア大学のヒューマンマシンインタラクション研究室のSlackチャンネルは、普段は講義のリマインダーや壁登りロボットの動画がポツポツと流れている。しかし、この春、テスラのオートパイロット関連で初の死亡事故が発生したというニュースが流れ、フィードは批判的な雑談のナイアガラの滝と化した。
大学院研究アシスタント: 製品を発表するすべての人は、実際に始める前から人々や投資家を興奮させておくために、うまくいっていると主張するのが習慣です。
ポスドク研究員：少なくとも技術が進歩するまでは、このような失敗は避けられないというのが私の意見です。テスラは最初に踏み切ったため、より厳しい監視の対象となっています。
学生研究員: 運転手がハンドルを握って注意深く運転していれば、トラクタートレーラーを道路標識と間違えることはなかったでしょう。
そんなことが何日も続いた。どちらの主張にも一理あるように思えた。そこで私は宿題として、テスラ モデルSのオートパイロット作動中に運転していたオハイオ州の男性が命を落とした事故について、より詳しく調べてみた。おそらく人間と機械のインタラクションにおけるこれまでで最も先進的な公開実験であるこのシステムが、なぜこれほどまでにひどい結果に終わったのかを理解したかったのだ。男性の車はフロリダ州の国道27A号線を横断していたトレーラーに衝突した。テスラによると、車の緊急ブレーキシステムはトラックの白い側面と明るく照らされた空を区別できなかったという。
技術的な観点から言えば、そこに欠陥があった。自動車安全の専門家とテスラにとって、より重要なのは、運転手が衝突の危険に気づいていなかったことだ。そのため、彼はブレーキをかけず、車はトレーラーの下をくぐり抜けてしまった。
自動運転車が公道を走り始めるにつれ、私たちの生活におけるスマートマシンやロボットについて、長年抱いてきた誤解を改めて考え直す時が来ています。私たちの多くは、映画『ナイトライダー』に登場するインテリジェントカーの相棒、KITTのような、何でも知っているパートナーロボットの存在を夢見て育ちました。（「これが終わったら、完全なるシモナイズ（相棒ロボット化）を期待している）」
確かにフィクションだが、私たちの期待は設定されており、ルンバのような「一度設定したら放っておく」家庭用ロボットや、どこにでもあるタスクをマスターする食器洗い機によってさらに強固なものになったかもしれない。
オートパイロットは、私たちが共同で思い描いていた KITT のシナリオではありません。その説明書には、人間が自動化の方程式の一部であり続けなければならないと明記されています。(スマートマシンであっても、私たちは説明書を読まなければなりません!) テスラは、オートパイロットソフトウェアをベータプログラム(つまり、まだバグを修正中) であると公に宣言し、ドライバーに注意を払い、両手をハンドルから離さないよう注意を促しました。しかし、微妙ではありますが、エンジニアリングとマーケティングの間には断絶があります。テスラが 2015 年 10 月にソフトウェアアップデートを発表したブログ記事のタイトルは「あなたのオートパイロットが到着しました」で、まるでロボットの運転手が今にも車を停めて私たちを迎えに来るかのようでした。海外では、同社の中国のマーケティング担当者はこの新機能を「自動運転」と翻訳しました。この事実が原因で、あるドライバーは駐車中の車に側面衝突したとしてテスラを責めました。
オートパイロットの初期導入者たちは、私たちの空想と技術の誤用願望を助長しました。YouTubeには、まるでジェットコースターに乗っているかのように両手を上げて車を試乗したり、渋滞の中でチェッカーやジェンガで遊んだりする、（そしてクスクス笑う）大人たちの興奮した様子を映した動画が次々と登場しました。50万回も再生されたプロが制作したある動画レビューでは、説明欄にあまり役に立たないアドバイスが書かれていました。「免責事項：この動画で行われているアクティビティは制作・編集されたものです。安全を最優先に考えています。愚かな行動は慎んでください。道路状況にご注意ください。」
だから、私たちが今やったことと同じことはしないでください。
右。
彼らが見逃しているもの: 共有制御は自動運転ゲームの名前です。
戦闘機パイロットの訓練から、こうした関係性について多くのことを学ぶことができます。カーター政権時代から、プロのパイロットはいわゆるフライ・バイ・ワイヤ（コンピューター制御による飛行支援システムの総称）を使用して飛行してきました。オートパイロットと同様に、フライ・バイ・ワイヤはパイロットの機体操縦責任を補助するものであり、完全に排除するものではありません。パイロットはコックピットを操縦する前に何年もの訓練を受け、コンピューターが何を見ているのか、そしてどのように情報を処理しているのかを深く理解します。また、テクノロジーの存在下でも状況認識を維持し、対応に備えることも学びます。これは、自由放任主義で「飛行機に任せっぱなし」という姿勢とは対照的です。
一般のドライバーがパイロットのような徹底的な訓練を受けることは到底不可能だ。だが、自動車メーカーは効果的な回避策を見つけなければならない。まず第一に、ドライバーがオートパイロットのソフトウェアアップデートをインストールする際に画面に表示される何ページにも及ぶソフトウェアリリースノート以上のものが必要だ。メーカーは、自動化がどのように機能するか、いつ機能するように設計されていていつ機能しないのか、そしてなぜ人間のドライバーが介入する準備をしておかなければならないのかを理解するための短いトレーニングプログラムを開発する必要がある。これは一部の州でボート免許取得に義務付けられている土曜日の講習と似たようなものだ。「オートパイロットのような自動化技術の問題は、エラーが発生したときに人がループから取り残されがちで、問題の検出も修正方法の理解も遅くなることです」と、フライ・バイ・ワイヤとマンマシンインタラクションの専門家である元米空軍主任科学者、マイカ・エンズリーは言う。
より賢いドライバーを訓練することが解決策の一部である。しかし、自動運転ソフトウェアは、その訓練を強化する必要がある。このソフトウェアと自動車を設計するエンジニアは、一般の人々とよりうまくコミュニケーションできるようになるために、人間の行動と認知を理解する必要がある。ありがたいことに、この人間と機械のインタラクションは、自動車メーカーと学術界にとって成長している研究分野となっている。スタンフォードでは、インタラクションデザインの専門家が、自動運転車のカメラ、レーダー、センサーの認識と推論を人間にとってより透過的にする方法を学んでいる。自動車メーカーによると、自動車メーカーは、口語的な音声キュー（「前方に障害物があるためブレーキをかけています」）とコントロールの物理的な変更（ドライバーが操作を引き継ぐ必要があるときにハンドルの角度を変えるなど）を使用して、ドライバーに道路上の変化（たとえば、トラックが割り込もうとしている）を認識させたり、空想にふけって溝に落ちたりしないようにしたりする必要がある。
このような運転引き継ぎの合図はまだかなり微妙ですが、今後はより分かりやすくなってくるはずです。モデルSでは、音声のトーンとダッシュボードのオートパイロットアイコンの色の変化が、ドライバーが運転を引き継ぐ必要があるときに得られる唯一の合図です。キャデラックのスーパークルーズとボルボのパイロットアシストは、シートやステアリングホイールを微妙に振動させることで注意を喚起し、同じ目的を達成しています。しかし、自動車メーカーはドライバーを支援するためにもっと積極的に取り組む必要があります。スタンフォード大学の最近の研究では、例えばステアリングホイールの振動と音声による指示、そして点滅灯を組み合わせるといった多感覚的なアプローチが、反応時間を短縮するより良い方法である可能性が示唆されています。
新しいテクノロジーに関しては、誰もゆっくり走りたいとは思わない。インスタントアプリや地図、スワイプ決済の時代ではなおさらだ。しかし、ドライバーは自動運転の世界へ（そして注意深く！）踏み込むべきだ。高速道路を猛スピードで疾走している時に、人々の集中力を緩めてしまうような技術には、人間へのより高度な訓練と、機械へのよりスマートな警告システムの両方が必要だ。
今年5月に起きた自動操縦装置の致命的な事故は最悪のシナリオだったかもしれないが、人間と機械が運転席を共有する方法を見つけることの重要性を強調している。
この記事はもともと、2016年11月/12月号の『ポピュラーサイエンス』に「ロボットを責めるな、私たちを責めろ」というタイトルで掲載されました。
