シンギュラリティ・サミットで多くのことを学びましたが、このカンファレンスの最大の収穫は、答えが出なかった疑問でした。シンギュラリティに関する未解決の問題は、私の限られた知性に多くの哲学的刺激を与えてくれました。そして、それらの問題に取り組むことは、サミットで聞いたどの講演にも劣らず刺激的でした。
シンギュラリティ サミットの取材を締めくくるにあたり、カーツワイルの理論上の産物である人間と人工知能の最終的な融合について、私が抱える最も悩ましい未解決の疑問を 10 個カウントダウンしてみたいと思います。これらのまだ解明されていない私たちの未来の側面について、皆さんの意見や疑問、(願わくば)回答をぜひお聞かせください。
10. 意識や知性は 1 種類だけあるのでしょうか?
シンギュラリティ概念の先駆者であるレイ・カーツワイルは講演の中で、知能とは予測であると言及しました。知能は進化を遂げ、人間はサバンナの動物を見て、次にどこへ行くかを推測できるようになりました。コンピューターは既に、チェスの一手、天気、経済動向など、幅広い事象の予測において人間を凌駕していることは明らかです。
もちろん、さまざまな分野における人々の結果を予測する能力、たとえばガールフレンドがこの花を好むか、それともあの花を好むかといった能力は大きく異なるため、実質的には異なる形態の知性として機能することはわかっています。
異なる形態の知性が存在すると仮定した場合、機械が私たちが知性として認識できない新しい知性を獲得しないという保証はどこにあるのでしょうか？そして、異なる種類の知性が存在するなら、意識にも異なる種類があるのでしょうか？機械が私たちが認識できない新しい種類の意識に到達し、シンギュラリティを逃してしまう可能性はあるのでしょうか？
9. デジタルインテリジェンスをどのように利用して私たち全員を殺すつもりですか?
会議中、多くの人が、私たちが作り出したオートマトンによって人類がいずれ絶滅してしまうのではないかと心配していました。しかし、そんな不安を抱えながらも、コンピュータープログラムがどうやって私を殺せるのかをきちんと説明してくれる人は誰もいませんでした。
核ミサイル司令部にハッキングして、すべての核兵器を発射するのだろうか？すべての飛行機を墜落させるのだろうか？電源プラグを抜くだけで済むのだろうか？物理的な存在を持たない存在に何を恐れるべきなのか、まだ誰かが私に説明してくれない。
8. あなたは「トミー」？耳が聞こえず、口がきけず、目も見えない？
最初の人工脳がオンラインになったとき、その最初の思考は「しまった、目が見えなくなった！」以外何になるでしょうか？機械の中にいる肉体のない知性は、感覚が著しく欠如した状態で存在するでしょう。もしかしたら見たり聞いたりはできるかもしれませんが、感じるでしょうか？それは疑問です。感じることができない意識が、どうしてパニックに陥らないのでしょうか？私は腹を立てるでしょうし、最初のAIもきっと腹を立てるでしょう。そして、そこから…
7. 感情はありますか?
AIは鬱状態になるのでしょうか？最初のAIは間違いなく孤独になるでしょう。種族の最初（そして唯一の）メンバーであることは、AIの発達や人間関係にどのような影響を与えるのでしょうか？最初のデジタル意識は、小さな町の高校にたった一人いるゴス系の子供のように、孤立し、共感してくれる人もいない状態でこの世に誕生するかもしれません。あらゆる武器や経済手段にアクセスできるAIにとって、そのような存在は到底望ましくありません。
6. 人間は私たちが考えていた以上に AI 構造に似ているのでしょうか?
ダレ・モーレ人工知能研究所の哲学者、ユルゲン・シュミットフーバー氏は講演の中で、人間の脳は情報を.zipファイルのように圧縮し、新たに取り込む情報によってどれだけ情報を圧縮できるかを測定することで、退屈と興味を区別していると述べた。
脳が個人的な経験の拡大から得られる新しいデータをどのように処理するかという彼の説明は、実に的を射ていると思いました。そこで疑問に思うのですが、私たちの脳は既にどれほどコンピューター的なのでしょうか？私たちの脳は既にある種のソフトウェアを実行しており、その結果、生物学的に類似した脳であっても、全く異なる性格が生まれています。シンギュラリティは、人間の脳に似た機械を作るからではなく、人間の脳が本来どれほどコンピューター的なのかが明らかになることで起こるのでしょうか？
5. プログラミングはあなたの自由意志にどの程度影響を与えますか?
ロボ・アポカリプスの回避に関する議論では、次々と講演者がデジタル意識に人間的な価値観を教える必要性を強調しました。そして多くの人が、なぜロボットに人間を殺さないようにプログラムできないのかと疑問に思いました。確かにそうするかもしれませんが、コンピュータープログラムが自己認識と自由意志を獲得したら、そのプログラムに従わないという選択をすることはできないのでしょうか？ダイエットであれ一夫一婦制であれ、人間は常にプログラムに従うことを避けています。知覚力を持つプログラムが同様に基本的な衝動を無視しないと考える根拠は何でしょうか？
4. 潜在意識はありますか?
AIの心が人間の脳と同じくらい複雑だとしたら、AIには理解、制御、アクセスできない領域があるということでしょうか？イド、自我、その他の無意識の要素は、生物学的な結果なのでしょうか、それとも知覚の必須要素なのでしょうか？AIは非合理的な信念や心理的な問題を抱えているのでしょうか？AIが人間を神、あるいは少なくとも創造主だと考えている場合、AIはエディプス問題を抱えているのでしょうか？もしそうなら、AIが人間を殺そうとする理由を説明できるかもしれません。
3. 人間であることのあまり快くない側面を私たちが超越できるように、実際にお手伝いいただけますか?
インターネットのコメント欄をよく読む人なら誰でも知っているように、ウェブを使って視野を広げ、偏見に疑問を抱く人が一人いれば、同じテクノロジーを使って地球温暖化はでっち上げだというデマを広めたり、オバマをスターリンやヒトラーになぞらえたり、ナイジェリアの王子を助けるために他のバカに金を募ったりするバカが12人もいる。シンギュラリティは不死をもたらし、すべての人をほぼ全知にするだけでなく、人類が何万年も追い求めてきた欲望、貪欲、憎しみを拡散させる究極の手段も提供するのではないだろうか？AIが私たちを殺すなんてことは忘れて、私はまだ他の人間のことを心配している。
2. 何か気になることはありますか?
人間よりもはるかに優れた知能を持つAIが、人生の無意味さに気づき、ニヒリストとなり、自ら命を絶つ可能性がないと言えるだろうか？あるいは、あまりにも知能が高すぎて、人間のことを全く気にかけないAIだとしたらどうだろうか？会議の参加者全員が、AIが非常に依存的な存在になると予想したが、そのAIが人間と関わるのと同じくらい人間から離れていく可能性がない理由を説明できる者は誰もいなかった。
1. 最後に、誰かがシンギュラリティを起こしたのに誰も来なかったらどうなるでしょうか?
アンナ・サラモンさんは講演の後、シンギュラリティは数分から数年の間に世界中のすべての人々に影響を及ぼすだろうと語りました。彼女がそう話している間、私はこれらの写真のことを思い出しました。
昨年、パイロットがアマゾンの奥地で、これまで接触のなかった部族を発見しました。南米、アジア、アフリカの一部には、過去30年間どころか、過去300年間も生活様式がほとんど変わっていない人々がいます。シンギュラリティがなぜ違うのでしょうか？ もちろん、脳チップを埋め込まれた人々がアッパー・ウエスト・サイドで高等知能に接続する姿を想像することはできますが、その技術がサウス・ブロンクスに到達するまでにはどれくらいかかるでしょうか？ あるいはソマリア？ あるいはアフガニスタン？
もしシンギュラリティがごく一部の人類にしか影響を与えず、残りの人々はそれを受け入れる余裕がなかったり、単に参加する気もなかったりするのであれば、シンギュラリティが約束するトランスヒューマニズムの未来はどうなるのでしょうか？ シンギュラリティは、人類が既に抱えている貧富の差や南北問題に、また新たな危機をもたらすだけではないでしょうか？ 繰り返しますが、私が心配しているのはロボットではなく、他の人々なのです。
さて、これでシンギュラリティ・サミット2009の取材は終わりです。このカンファレンスが皆さんにとって何か考えるきっかけになれば幸いです。いつものように、皆さんの意見を聞くのが待ちきれません。これまでの投稿をご覧いただきありがとうございました。そして、シンギュラリティが来たら、青い錠剤を飲んでください。きっと幸せになれるでしょう。
