「人類はAIによって悪魔を呼び出そうとしている」

Elon Musk氏は、人間の手を借りずに駐車や運転をすることができるスマートな自動車を先頭に立って擁護している。しかし、次の段階のコンピュテーションに関しては、Musk氏は気味の悪い発言を繰り返しており、その内容はますますエスカレートしている。同氏は、人工知能(AI)が悪意を抱くようになる潜在的可能性に対して、恐怖を依然として抱いている。

Musk氏は「2014 Centennial Symposium」で、「AIによって、われわれは悪魔を呼び出そうとしている。五芒星と聖水を持つ男が登場する物語は皆さんもご存じだろう。その男は悪魔を操ることができると確信しているが、実際にはそれは不可能だ」と述べた。

Musk氏は以前、映画「ターミネーター」シリーズのようなことが起きると不安を述べ、同氏はAIを監視できるようにする目的のためだけに同テクノロジを扱う企業に出資していると話した。その後、ツイートで再び懸念を表明し、AIは「もしかすると核兵器より危険かもしれない」と述べた。つい数週間前には、Musk氏は別のイベントで、スパム撲滅の仕事を課された未来のAIシステムがそのタスクを完遂する最高の方法は人類を絶滅させることだと判断するかもしれない、と冗談半分に語っている。

未来におけるAIの悪魔的な力には、どう対処すればいいのだろうか。テクノロジ業界の大物としては奇妙な動きだが、Musk氏は、政府規制当局という別の悪魔(これは1つの政治的見方にすぎないが)によって悪魔を制するのも妙案かもしれないと提案した。

同氏はAIに言及して、「実存する最大の脅威は何かを推測してほしいと言われれば、おそらくAIだと答えるだろう。人類が愚かな過ちを犯さないようにするため、国家レベルと国際レベルで、何らかの規制当局による監視を行うべきだと私は考えており、その思いをますます強めている」と述べた。

Singularity(技術的特異点)とは

Singularity(技術的特異点)は、「強い人工知能」や人間の知能増幅が可能となったとき出現する。未来学者らによれば、特異点の後では科学技術の進歩を支配するのは人類ではなく強い人工知能やポストヒューマンであり、従ってこれまでの人類の傾向に基づいた人類技術の進歩予測は通用しなくなると考えられている。

この概念は、数学者ヴァーナー・ヴィンジと発明者で未来学者のレイ・カーツワイルにより初めて提示された。彼らは、意識を解放することで人類の科学技術の進展が生物学的限界を超えて加速すると予言した。意識の解放を実現する方法は、人間の脳を直接コンピュータネットワークに接続し計算能力を高めることだけに限らない。それ以前に、ポストヒューマンやAI(人工知能)の形成する文化が現生人類には理解できないものへと加速度的に変貌していくのである。カーツワイルはこの加速度的変貌がムーアの法則に代表される技術革新の指数関数的傾向に従うと考え、収穫加速の法則(Law of Accelerating Returns)と呼んだ。

特異点を肯定的に捉えその実現のために活動する人々がいる一方、特異点は危険で好ましくなくあってはならないと考える人々もいる。実際に特異点を発生させる方法や、特異点の影響、人類を危険な方向へ導くような特異点をどう避けるかなどが議論されている。