イーロン・マスクは人工知能（AI）を恐れている。スペースXとテスラモーターズの創業者である彼は、AIが近い将来「核兵器よりも危険になる可能性がある」と予測し、最近では「AIを有益なものに保つ」ための研究に1,000万ドルを寄付した。スティーブン・ホーキング博士も同様に、「完全なAIの開発は人類の終焉を意味する可能性がある」と警告している。
マスク氏とホーキング氏は、Siriのようなありふれたスマートフォンアシスタントを恐れているわけではない。彼らが恐れているのは、AIが人間を凌駕し（そして奴隷化し、虐殺する）超知能だ。
しかし、AIの終末が迫っているとしても、シリコンバレーはひるむことなく前進しています。1月時点で、170社ものスタートアップ企業がAIに積極的に取り組んでいます。Facebookは新たなAI研究所にこの分野で最も優秀な人材を採用し、Googleは昨年、AI企業のDeepMindを4億ドルで買収しました。そこで疑問が生じます。ソフトウェア企業とベンチャーキャピタリストは破滅を招こうとしているのでしょうか？それとも、人類を代表するオタクたちは終末を予言する偽預言者なのでしょうか？
確かに、黎明期にあるAI業界のための標準策定は当然のことであり、例えば自動運転車の倫理規定の確立などにおいて、ますます重要になるでしょう。しかし、差し迫ったロボットの反乱は脅威ではありません。現実には、AIの研究開発は非常に複雑です。マスクやホーキングのような知識人でさえ、必ずしもAIを深く理解しているわけではありません。そのため、彼らは現実世界というよりはSFから得たような、根拠のない憶測に陥ってしまうのです。
人類の最も著名なオタクたちは終末の偽預言者なのでしょうか?
AI分野で実際に働いている人の中で、超知能の暴走を特に懸念している人はほとんどいない。「AIコミュニティ全体として、一般大衆が懸念するようなものを構築するには程遠い」と、著名なAI企業Vicariousの共同創業者であるディリープ・ジョージ氏は述べている。FacebookのAI研究ディレクターであり、ニューヨーク大学データ研究センター所長でもあるヤン・ルカン氏は、人間レベルのAIの創出は困難な目標であり、絶望的ではないにせよ、実現は難しいと強調し、超知能は予見可能な将来において議論の余地があるとしている。
しかし、AI研究者たちは不安から逃れられない。「私の分野の人々が本当に心配しているのは、恐怖をあおる言動です」と、モントリオール大学機械学習研究所所長のヨシュア・ベンジオ氏は言う。ベンジオ氏は、一般大衆を混乱させ、投資家や学生を遠ざける可能性に加え、「人類にとって極めて危険な主張を信じている常軌を逸した人々がいます。彼らは私たちのような人間を標的にするかもしれません」と付け加える。言い換えれば、AIに関連する最も差し迫った脅威は、人工的なものでも知的なものでもないかもしれない。したがって、AIコミュニティにとって最も喫緊の課題は、技術的な問題ではなく、ブランド化という課題への対処である。ジョージ氏は「研究者として、私たちにはハリウッドと現実の違いについて一般大衆を啓蒙する義務があります」と語る。
この記事はもともと「人工知能は人類を消滅させない」というタイトルで、 2015 年 3 月号の『ポピュラーサイエンス』に掲載されました。
