Going Faraway

渡辺遼遠の雑記帳。技術ネタと読んだ本の紹介。

読書メモ:シンギュラリティの宗教性 『Apocalyptic AI』 (ロバート・ゲラチ)

キリスト教神学について僅かなりとも触れたことのある人であれば、特にカーツワイル氏のシンギュラリティの物語と、キリスト教終末論の類似性には即座に気が付くだろうと思う。

慈悲ぶかい超知能AIが神の位置を占め、ナノボットは貧窮と病苦に終止符を打ち、そして我々の精神はコンピュータにアップロードされ永遠の生命を得る。あるいは、宇宙が精霊で満たされ死者すら復活するのだという。そしてそんな超越的な出来事は、我々が生きているうちのごく近い将来に起こることなのだ。このような議論が「宗教」でなかったとしたら、一体何が宗教なのだろうか。

SF作家ケン・マクラウドは、シンギュラリタリアニズムと宗教的終末論との関連を揶揄して、「オタクの昇天 (Rapture of the Nerds)」*1という言葉を造語したとされている。ナノテク研究者でありトランスヒューマニズムへの批判者、リチャード・ジョーンズ教授が述べた通り、「このあざけりが壊滅的なまでに効果的である理由は、それが深淵な真理を含んでいるから」("The reason this jibe is so devastatingly effective is that it contains a deep truth.") *2だろう。

そして、実際のところ、シンギュラリタリアニズムの宗教性は、学術的考察の対象にもなっている。

本書『Apocalyptic AI』は、シンギュラリタリアニズム/トランスヒューマニズムの宗教性についての研究における最も基本的な書籍であり、シンギュラリティ懐疑論の多くでこの本は言及されている。私の記憶にあるだけでも、『そろそろ、人工知能の真実を話そう』(ジャン=ガブリエル・ガナシアの) や『ロボットの脅威』(マーティン・フォード) などでも参照・引用されていたし、軽いエッセイなどまで含めると膨大な数に登る。


おそらく確実にこの本は翻訳されないと思うので、興味を持った人向けの読書ガイドとしての意味も込め、内容を詳細に紹介してみたい。

終末のAI

序文によれば、この本は人類学的な本であるのだという。すなわち:

I am not interested in evaluating the moral worth of Apocalyptic AI. This book is about the social importance of Apocalyptic AI; it is an anthropological, not a theological work. (...) This book is neither supporting nor debunking the claims of Moravec and Kurzweil.(p.1-2)

私は、終末のAIの道徳的意義を評価することに興味はない。この本は、終末のAIの社会的な重要性に関するものである; これは人類学的なものであり、神学的な研究ではない。(...) この本は、モラベックやカーツワイルの主張を支持するものでも反駁するものでもない。

つまりは、あくまで興味深い宗教的な活動が存在している状況を受け、文化人類学的に活動を観察し、記録し、考察するものである。

それでは、「終末のAI」とは何か。第一章では、黙示録信仰 (Apocalypticism) の性質として以下の4つが挙げられている。(この本を読む人向けのアドバイスをすると、第一章前半部はユダヤキリスト教神学史、科学史・科学哲学などの広範な知識を要求されるので、初めて読む際にはp.21まで、もしくは第二章まで飛ばしても良いと思う。)

Apocalypticism refers 1) a dualistic view of the world, which is 2) aggravated by sense of alienation that can be resolved only through 3) the establishment of a radically transcendent new world that abolishes the dualism and requires 4) radically purified bodies for its inhabitants.

黙示録信仰とは、 1) 二元論的な世界観であり、それは 2) 疎外された感覚によって悪化し、それを解決しうるのはただ 3) 二元論を廃止する根本的に超越的な新たな世界の確立により、そしてそれは 4) その住人に対し根本的に浄化された身体 を要求する。

著者によれば、この種の黙示録的なモチーフは、ロボティクス、人工知能バーチャルリアリティの研究、およびポピュラーサイエンス本とサイエンスフィクション小説の中に存在しているのだという。

「終末のAI」の支持者としては、ロボット研究者ハンス・モラベック、エンジニアであり実業家のレイ・カーツワイル、サイボーグ研究者として知られるケヴィン・ワーウィックや人工知能研究者のヒューゴ・デ・ガリスなどの著名人が挙げられており、第一章の後半部では彼らの主張が簡単に紹介されている。


続く第二章では、理論的な記述からはやや離れて、フィールドワーク的なインタビューと「終末のAI」の政治性に関する考察が取り上げられている。ゲラチは、カーネギーメロン大学 (CMU) のロボティクス研究所を訪れ、大学院生や若手研究者へのインタビューを行った。そこで彼が発見したのは、「終末のAI」のナラティブと現実のロボティクス研究の間にある隔りであった。

Quite clearly, many of the faculty were fond of Moravec but simultaneously mystified by his religious claims.
The mundane reality of robotics research bears little resemblance to the apocalyptic imagination of Moravec or his followers. (...) No one is building a super-intelligent robot that will either a) take over all human work or b) take over the world. (p.39-40)

かなり明白に、研究所の多数はモラベックのことを好いていたが、同時に彼の宗教的主張に困惑していた。
ロボティクス研究の世俗的な現実は、モラベックや彼の追随者の黙示録的なイマジネーションとはまったく似ていない。(...) a) 全ての人間の仕事を奪うあるいは b) 世界を支配するであろう超知能ロボットを構築している人は誰も居ない。

けれども、これは「終末のAI」が現実のロボティクス研究に全く関係がないということを意味するわけではない。カーネギーメロン大学の学生は、非公式にではあるものの、ヴァーナー・ヴィンジの『マイクロチップの魔術師』(原題:True Names) などのSF小説を読むように推奨されていたのだという。(p.51) この種のSF小説のイマジネーションが、間接的にロボティクス研究に影響を与えている。日本では、さしずめ鉄腕アトムドラえもんガンダム攻殻機動隊タチコマToHeartのマルチなどが挙げられるかもしれない。

更に、「終末のAI」の役割は、研究者コミュニティ自身に対するイマジネーションの源泉に留まらない。「終末のAI」は、ロボティクス・AI研究者の公的なプレゼンスを強化し、威信を強化し、経済的資源を獲得するために活用されている。この点については、ジャン=ガブリエル・ガナシアの『そろそろ、人工知能の真実を話そう』から要約を引用する。

今ではもう、科学者もエンジニアも自分たちの研究の動機をSFの中に求めている。(…)そうなった原因の一端は、ロバート・ゲラチが、その著書『終末のAI』でいみじくも指摘したように、夢をもたらし人々をわくわくさせるプロジェクトを優遇するような研究費の支給方式にある。研究分野の選定を民主化しようとすると、得てして、大衆への説明がわかりやすく、創造力を刺激するという理由だけで、そういった研究に資金を支給するという結果に陥りがちだ。たとえ研究目標が実現不可能であったり、無意味なものに思えたりしても、である。(p.91-92)

ゲラチは、「終末のAIは、実際のところ、資金の要求である(p.64)」と喝破する。


第三章では、バーチャルリアリティサイバースペースの聖性について議論されている。この章では、特にゲームの世界に集ったトランスヒューマニストの世界観が紹介されている。ここで取り上げられている題材はMMORPGWorld of WarcraftSecond Lifeなどであり、2018年現在から見るといささか古びて見える部分もある。けれども、「VRは、マインドアップローディングの萌芽である(p.88)」という言葉は、最近ではVRChatなどの利用者によっても主張されることがあり、その分析は現在でも有効であると思う。(なお、カウンターカルチャー分野におけるVRの神話的・宗教的なモチーフは、以前に紹介した『サイバネティクス全史』でもかなり詳細に取り上げられていたため、興味のある方はそちらも参照してほしい)


第四章は、ロボティクス・人工知能の進歩による倫理的・法的・政治的な問題、たとえば、人工知能が意識や人格を持つようになった場合にいかなる問題が起きうるかというテーマが取り上げられている。私の見たところ、本章は他の哲学者や研究者による議論の要約が多く、筆者独自の観点はそれほど多くないため、見るべきところはそれほど多くない。


最終章、第五章「宗教、科学と技術の統合」"integration of religion, science, and technology" は、本書全体の議論のまとめである。


本書の出版は2010年であり、元となった論文は2000年代に書かれたものである。2010年代初頭の第三次AIブーム以前の本であるため、2018年現在から見ればやや古さを感じる部分もある。それでも、科学技術研究の中に埋め込まれた宗教的モチーフの分析として、そして、宗教と科学の2つを包含する「社会」との関わりの考察として、長く読み継がれるべき本だと言えるだろう。

*1:"Rapture"は、キリスト教終末論の文脈では通常「携挙」と訳されるが、ここでは文体上の観点から「昇天」という語を当てた

*2:Against Transhumanism – the e-book – Soft Machines