短編映画「スローターボッツ」は、近未来を描いています。そこでは、無数の小型ドローンが政治的信念を理由に何千人もの人々を暗殺します。2017年11月、高度な人工知能（AI）の危険性を警告する学者や活動家によって公開されたこの作品は、瞬く間に拡散し、現在までに300万回以上再生されています。この作品は、自律型兵器の将来に関する議論を巻き起こし、国連通常兵器禁止条約（UNCW）に出席する外交官たちに圧力をかけるきっかけとなりました。
しかし、こうした空想的なSFストーリーテリングは、注目を集めるのに役立つだけではありません。先進技術を設計・構築する人々は、物語を通して自らの仕事の結果を考え、それが社会の善のために使われるようにすることができます。そして私たちは、こうした「SFプロトタイピング」や「デザインフィクション」は、人間の偏見が新しい技術に浸透し、社会の偏見や不正義をさらに根付かせるのを防ぐのに役立つと考えています。
バイアスは、特定のカテゴリー（結果、人、アイデアなど）を他のカテゴリーよりも恣意的に優遇することにつながる可能性があります。例えば、意識的であるかどうかにかかわらず、女性を経営職に採用することに反対する人がいるかもしれません。
こうしたバイアスを記録するデータに基づいて構築されたテクノロジーは、最終的に問題を再現してしまう可能性があります。例えば、特定の職種に最適な履歴書を選択するように設計された採用ソフトウェアは、男性に対する無意識のバイアスを反映する特性を探すようにプログラムされている可能性があります。その場合、アルゴリズムは男性の履歴書を優先することになります。これは理論上の話ではなく、実際にAmazonで起こったことです。
起こりうる悪影響を考慮せずにアルゴリズムを設計することは、医師が「特定の治療法の利点について書きながら、副作用がいかに深刻であってもそれを完全に無視する」ことに例えられます。
一部のテクノロジー企業や研究者は、この問題に取り組もうとしています。例えば、GoogleはAI開発の指針となる倫理原則を策定しました。また、英国の学者たちは、テクノロジーの設計と利用における公平性と正義の向上を促進することを目指し、「Not-Equal」と呼ばれるイニシアチブを立ち上げました。
問題は、企業が近未来の技術の潜在的な影響について、公にポジティブなビジョンしか示さない傾向があることです。例えば、自動運転車はコストから安全性まで、あらゆる交通問題を解決するかのように描かれることが多く、サイバー攻撃の危険性の増大や、人々が歩いたり自転車に乗ったりする頻度を減らす可能性が無視されています。
デジタル技術、特に難解なアルゴリズムによって大きく駆動される技術の仕組みを理解することの難しさは、人々が問題を複雑かつ包括的に捉えることを困難にしています。こうした状況は、安心感を与えるような肯定的な物語と、私たちの周りのテクノロジーにはある程度の偏見が埋め込まれているのではないかという漠然とした疑念との間に緊張を生み出しています。まさにこの点において、デザインフィクションを通じたストーリーテリングが役立つと考えています。
物語は、可能性や複雑な状況について考える自然な方法であり、私たちは生涯を通じて物語を耳にしてきました。SFは、スローターボッツのように、近未来のテクノロジーが社会に与える影響について推測するのに役立ちます。これには、難民や移民といった特定の集団がデジタルイノベーションから排除される可能性といった、社会正義の問題も含まれます。
（可能性のある）未来を明らかにする
デザインフィクションのストーリーは、デザイナー、エンジニア、そして未来学者などにとって、テクノロジーが人間の視点からどのような影響を与えるかを考え、それを将来のニーズに結びつける斬新な方法を提供します。論理と想像力を融合させることで、デザインフィクションはテクノロジーがどのように採用され、利用されるかという側面を明らかにし、その将来的な影響についての議論を始めるきっかけとなります。
例えば、短編小説「Crime-sourcing（犯罪ソーシング）」は、AIがクラウドソーシング情報と犯罪者データベースを用いて殺人犯を予測した場合に何が起こるかを探っています。研究者たちは、データベースには社会的理由から統計的に再犯率が高い少数民族グループに属する人々が多数含まれていたため、「犯罪ソーシング」モデルは白人よりも少数民族グループを誤って疑う可能性が高くなることを発見しました。
デザインフィクションを作るのに、才能あるライターである必要も、洗練された映画を作る必要もありません。カードやストーリーボードを用いたブレインストーミング活動は、デザインフィクションの創作やストーリーテリングのプロセス構築に役立ってきました。こうしたツールを用いたワークショップをより一般的にすることで、より多くのエンジニア、起業家、そして政策立案者がこの評価方法を活用できるようになるでしょう。そして、その成果物を公開することで、技術に潜む潜在的なバイアスを、それが社会に影響を与える前に明らかにするのに役立ちます。
このようにデザイナーがより多くのストーリーを創造し、共有することを奨励することで、新しいテクノロジーの根底にある物語が、単にポジティブなイメージだけを描き出すのではなく、極端にネガティブなイメージやディストピア的なイメージだけを描くこともなくなるでしょう。そうではなく、人々は私たちの周りで起こっていることの両面を理解できるようになるでしょう。
アレッシオ・マリツィアは、ハートフォードシャー大学のユーザーエクスペリエンスデザインの教授です。
シルヴィオ・カルタは、ハートフォードシャー大学の芸術・デザイン学部長であり、デザイン研究グループの議長です。
この記事はもともとThe Conversationに掲載されました。
