Going Faraway

渡辺遼遠の雑記帳。技術ネタと読んだ本の紹介。

読書メモ:イスラーム人生論 『みんなちがって、みんなダメ』(中田考)

北大生シリア渡航未遂事件で一躍有名になった(?)イスラーム法学者、ハサン中田考先生の新刊。 

みんなちがって、みんなダメ

みんなちがって、みんなダメ

イスラームの世界観から言えば、「何をするべきか」、何に価値があり、何が正しく、何が善いことであるかは、すべて神からの預言を通して示されています。イスラームの宣教未到達の地である日本では、いかなる義務も禁止もなく、「価値がある」と信じられているあらゆることが幻想であるのだから、普通の(非ムスリムの)日本人は「できること」を「したい」通りにやって生きていけば良い。

現代の日本で「生きづらさ」を抱くのは、実は、他人や自分が勝手に定めたおかしな基準、「何をするべきか」という幻想に縛られていたり、自分に「何ができるか」、「何がしたいか」をカン違いしているからだ。この本のメッセージを要約すると、こんなふうに言えるのではないかと思います。

(こういう考え方は、たぶん多くの日本人にとっては取っ付きにくいものだと思いますが、少し噛み砕いて言うなら、「善悪や価値にからむ問題は、必ずしも経験的事実を引き合いに出して決着がつくようなものではなく、どこかに「信じるしかない部分」がある」と言えば分かるでしょうか)

そんなイスラーム的な価値観をベースとして、「承認欲求」、「自由と民主主義」、「資本主義」から「領域国民国家」まで日本人的な価値観がバッサバッサと切り捨てられ、身も蓋もない人生論が展開されています。個人的には、私は中田先生とも直接面識があり、これまで出版された一般書をほとんど読んできているため (正直なところ、全てを理解・共感できているわけではないのですが)、本書の議論はほとんど納得のできるものなのですが、これまで中田先生の本を読んだことがなく、一神教的な世界観や価値観に触れたことがない人にとっては、自分がいかに狭い了見に捕われれていたのかに気付き、価値観そのものを揺さぶる本になるのではないかと思います。

合わせて読みたい

イスラーム内部の考え方にもとづく、イスラーム自体の平易な解説としては、『イスラーム 生と死と聖戦』を挙げておきます。池内恵先生が日本的な価値観の内部から、イスラームの「外側」から見た解説を書いてるので、合わせて読むと理解が深まるかと思います。

書評:『知ってるつもり――無知の科学』(S. スローマン & P. ファーンバック)

とても面白く、また現代的な意義の大きい本である。ぜひ読むことを薦めたい。

しかし、おいそれと内容を要約して紹介することは多少はばかられる本である。なにせ、扱っている内容が「無知」-- 我々は、自分が思っているほどにはものごとを知っていないこと--を示す本なのだから。

知ってるつもり 無知の科学 (早川書房)

知ってるつもり 無知の科学 (早川書房)

とは言え、私なりに本書の中心的なメッセージを要約してみようと思う。

本書の冒頭では、ファスナー、水洗トイレやミシンなど、身の周りにあるありふれた物の機構を説明してくださいと言われると、自分自身が思うよりも自分は物事を理解していないことが示される、という心理学実験が紹介されている。これを「説明深度の錯覚」と呼ぶのだそうだ。

本書前半部分では、このような錯覚が起こる認知科学的なメカニズムの説明が挙げられている。大きな理由としては「人間は、世界や環境そのもの、あるいは書籍、インターネットや他者の知識」と協調しながら、分業してものごとを考えるからである。著者の言葉では、「知識のコミュニティ」の中で人間が生きているからなのだ。そして、必要に応じて参照可能な知識は、まるで自分が持っている知識であるかのように感じてしまう。このような錯覚は、時として大事故、非合理な意思決定や政治的な分断を引き起こすことがある一方で、個人では到底理解不能な複雑な世界で人々が暮らしていくための、「知識のコミュニティ」の中で生きていくための不可欠の特性なのであるという。

本書の後半部分の5つの章では、個人の「説明深度の錯覚」と集合的な「知識のコミュニティ」の存在を前提として、科学コミュニケーション、政治的な政策議論、教育などの分野でどういった方法を取るべきかという著者らの提言が述べられている。個人の能力と知識のみを深める教育ではなく、「知識のコミュニティ」の中で他者と協調する方法を学ぶべきだという主張には頷けた。


帯に多分野の著名人からの推薦の言葉が掲載されていることからも分かる通り、本書が扱う内容は多方面に渡っている。(やや散漫に感じるほどである)

その中でも目を引いた (そして他の人のレビューであまり取り上げられていない) 話題を挙げておくと、認知科学人工知能研究の間にある関連性、古き良き人工知能および認知科学が想定してきた「知能」と、生物や人間の実在の「知能」のあり方の差異を説明している部分だろう。

伝統的な人工知能認知科学の想定とは異なり、人間や昆虫は世界のモデルを構築し、膨大な計算をしてから行動するわけではない。「世界についての事実(ボールや地面の光学的特性)を活用して、行動を単純化するのである。」本書の言葉を借りるなら、「世界が私たちのコンピュータ」なのであり、これが生物が「フレーム問題」に陥らない理由である。

そして、人工知能の進歩によって「スーパーインテリジェンス」 (本書の訳語では「超絶知能」) が発生するという主張に対し、「コミュニティとしての知識と知能」の見方から、著者たちは安直なシンギュラリティ論には与していない。

コンピュータに志向性を共有する能力がなく、またそれを獲得しつつある兆候もないことから、人類の利益に反して自らの目標を追求するような邪悪な超絶知能が誕生することはあまり懸念されていない。地平線上に超絶知能の姿はまったく見えない。関心や目標を共有するという人間の最も基本的な能力を持たない機械には、人間を理解することはできない。だから人間の心を読み、出し抜くこともできない。(p.164)

しかし、著者らは別の形での「超絶知能」がありうると述べている。それは、史上前例のない規模で人々の協業を可能にするテクノロジー的な基盤であり、地球規模に拡大した「知識のコミュニティ」なのだ。

 

ここまで本書を紹介してきたが、こうやって「分かったつもり」になって説明をしていること自体が、実は本書の主張する通り「知識の錯覚」に陥っている証拠なのかもしれない。私たちの自身の考え方自体を揺さぶる優れた本であるため、ぜひ手に取って (良ければこのページのリンクから購入して(笑))、直接著者の言葉に触れていただきたい。

読書メモ:シンギュラリティの宗教性 『Apocalyptic AI』 (ロバート・ゲラチ)

キリスト教神学について僅かなりとも触れたことのある人であれば、特にカーツワイル氏のシンギュラリティの物語と、キリスト教終末論の類似性には即座に気が付くだろうと思う。

慈悲ぶかい超知能AIが神の位置を占め、ナノボットは貧窮と病苦に終止符を打ち、そして我々の精神はコンピュータにアップロードされ永遠の生命を得る。あるいは、宇宙が精霊で満たされ死者すら復活するのだという。そしてそんな超越的な出来事は、我々が生きているうちのごく近い将来に起こることなのだ。このような議論が「宗教」でなかったとしたら、一体何が宗教なのだろうか。

SF作家ケン・マクラウドは、シンギュラリタリアニズムと宗教的終末論との関連を揶揄して、「オタクの昇天 (Rapture of the Nerds)」*1という言葉を造語したとされている。ナノテク研究者でありトランスヒューマニズムへの批判者、リチャード・ジョーンズ教授が述べた通り、「このあざけりが壊滅的なまでに効果的である理由は、それが深淵な真理を含んでいるから」("The reason this jibe is so devastatingly effective is that it contains a deep truth.") *2だろう。

そして、実際のところ、シンギュラリタリアニズムの宗教性は、学術的考察の対象にもなっている。

本書『Apocalyptic AI』は、シンギュラリタリアニズム/トランスヒューマニズムの宗教性についての研究における最も基本的な書籍であり、シンギュラリティ懐疑論の多くでこの本は言及されている。私の記憶にあるだけでも、『そろそろ、人工知能の真実を話そう』(ジャン=ガブリエル・ガナシアの) や『ロボットの脅威』(マーティン・フォード) などでも参照・引用されていたし、軽いエッセイなどまで含めると膨大な数に登る。


おそらく確実にこの本は翻訳されないと思うので、興味を持った人向けの読書ガイドとしての意味も込め、内容を詳細に紹介してみたい。

終末のAI

序文によれば、この本は人類学的な本であるのだという。すなわち:

I am not interested in evaluating the moral worth of Apocalyptic AI. This book is about the social importance of Apocalyptic AI; it is an anthropological, not a theological work. (...) This book is neither supporting nor debunking the claims of Moravec and Kurzweil.(p.1-2)

私は、終末のAIの道徳的意義を評価することに興味はない。この本は、終末のAIの社会的な重要性に関するものである; これは人類学的なものであり、神学的な研究ではない。(...) この本は、モラベックやカーツワイルの主張を支持するものでも反駁するものでもない。

つまりは、あくまで興味深い宗教的な活動が存在している状況を受け、文化人類学的に活動を観察し、記録し、考察するものである。

それでは、「終末のAI」とは何か。第一章では、黙示録信仰 (Apocalypticism) の性質として以下の4つが挙げられている。(この本を読む人向けのアドバイスをすると、第一章前半部はユダヤキリスト教神学史、科学史・科学哲学などの広範な知識を要求されるので、初めて読む際にはp.21まで、もしくは第二章まで飛ばしても良いと思う。)

Apocalypticism refers 1) a dualistic view of the world, which is 2) aggravated by sense of alienation that can be resolved only through 3) the establishment of a radically transcendent new world that abolishes the dualism and requires 4) radically purified bodies for its inhabitants.

黙示録信仰とは、 1) 二元論的な世界観であり、それは 2) 疎外された感覚によって悪化し、それを解決しうるのはただ 3) 二元論を廃止する根本的に超越的な新たな世界の確立により、そしてそれは 4) その住人に対し根本的に浄化された身体 を要求する。

著者によれば、この種の黙示録的なモチーフは、ロボティクス、人工知能バーチャルリアリティの研究、およびポピュラーサイエンス本とサイエンスフィクション小説の中に存在しているのだという。

「終末のAI」の支持者としては、ロボット研究者ハンス・モラベック、エンジニアであり実業家のレイ・カーツワイル、サイボーグ研究者として知られるケヴィン・ワーウィックや人工知能研究者のヒューゴ・デ・ガリスなどの著名人が挙げられており、第一章の後半部では彼らの主張が簡単に紹介されている。


続く第二章では、理論的な記述からはやや離れて、フィールドワーク的なインタビューと「終末のAI」の政治性に関する考察が取り上げられている。ゲラチは、カーネギーメロン大学 (CMU) のロボティクス研究所を訪れ、大学院生や若手研究者へのインタビューを行った。そこで彼が発見したのは、「終末のAI」のナラティブと現実のロボティクス研究の間にある隔りであった。

Quite clearly, many of the faculty were fond of Moravec but simultaneously mystified by his religious claims.
The mundane reality of robotics research bears little resemblance to the apocalyptic imagination of Moravec or his followers. (...) No one is building a super-intelligent robot that will either a) take over all human work or b) take over the world. (p.39-40)

かなり明白に、研究所の多数はモラベックのことを好いていたが、同時に彼の宗教的主張に困惑していた。
ロボティクス研究の世俗的な現実は、モラベックや彼の追随者の黙示録的なイマジネーションとはまったく似ていない。(...) a) 全ての人間の仕事を奪うあるいは b) 世界を支配するであろう超知能ロボットを構築している人は誰も居ない。

けれども、これは「終末のAI」が現実のロボティクス研究に全く関係がないということを意味するわけではない。カーネギーメロン大学の学生は、非公式にではあるものの、ヴァーナー・ヴィンジの『マイクロチップの魔術師』(原題:True Names) などのSF小説を読むように推奨されていたのだという。(p.51) この種のSF小説のイマジネーションが、間接的にロボティクス研究に影響を与えている。日本では、さしずめ鉄腕アトムドラえもんガンダム攻殻機動隊タチコマToHeartのマルチなどが挙げられるかもしれない。

更に、「終末のAI」の役割は、研究者コミュニティ自身に対するイマジネーションの源泉に留まらない。「終末のAI」は、ロボティクス・AI研究者の公的なプレゼンスを強化し、威信を強化し、経済的資源を獲得するために活用されている。この点については、ジャン=ガブリエル・ガナシアの『そろそろ、人工知能の真実を話そう』から要約を引用する。

今ではもう、科学者もエンジニアも自分たちの研究の動機をSFの中に求めている。(…)そうなった原因の一端は、ロバート・ゲラチが、その著書『終末のAI』でいみじくも指摘したように、夢をもたらし人々をわくわくさせるプロジェクトを優遇するような研究費の支給方式にある。研究分野の選定を民主化しようとすると、得てして、大衆への説明がわかりやすく、創造力を刺激するという理由だけで、そういった研究に資金を支給するという結果に陥りがちだ。たとえ研究目標が実現不可能であったり、無意味なものに思えたりしても、である。(p.91-92)

ゲラチは、「終末のAIは、実際のところ、資金の要求である(p.64)」と喝破する。


第三章では、バーチャルリアリティサイバースペースの聖性について議論されている。この章では、特にゲームの世界に集ったトランスヒューマニストの世界観が紹介されている。ここで取り上げられている題材はMMORPGWorld of WarcraftSecond Lifeなどであり、2018年現在から見るといささか古びて見える部分もある。けれども、「VRは、マインドアップローディングの萌芽である(p.88)」という言葉は、最近ではVRChatなどの利用者によっても主張されることがあり、その分析は現在でも有効であると思う。(なお、カウンターカルチャー分野におけるVRの神話的・宗教的なモチーフは、以前に紹介した『サイバネティクス全史』でもかなり詳細に取り上げられていたため、興味のある方はそちらも参照してほしい)


第四章は、ロボティクス・人工知能の進歩による倫理的・法的・政治的な問題、たとえば、人工知能が意識や人格を持つようになった場合にいかなる問題が起きうるかというテーマが取り上げられている。私の見たところ、本章は他の哲学者や研究者による議論の要約が多く、筆者独自の観点はそれほど多くないため、見るべきところはそれほど多くない。


最終章、第五章「宗教、科学と技術の統合」"integration of religion, science, and technology" は、本書全体の議論のまとめである。


本書の出版は2010年であり、元となった論文は2000年代に書かれたものである。2010年代初頭の第三次AIブーム以前の本であるため、2018年現在から見ればやや古さを感じる部分もある。それでも、科学技術研究の中に埋め込まれた宗教的モチーフの分析として、そして、宗教と科学の2つを包含する「社会」との関わりの考察として、長く読み継がれるべき本だと言えるだろう。

*1:"Rapture"は、キリスト教終末論の文脈では通常「携挙」と訳されるが、ここでは文体上の観点から「昇天」という語を当てた

*2:Against Transhumanism – the e-book – Soft Machines

書評:ルポ・セラノス事件 『Bad Blood』 (ジョン・カレイロウ)

下手なサスペンス小説よりも面白くて、硬派で難解な本であるものの一気読みしてしまった。ベンチャー企業の詐欺行為を最前線で追求した迫真のルポタージュというだけでなく、「起業家や経営者が語る夢想的で荒唐無稽なビジョン」に対する態度の再考を迫る、極めて優れた本である。 

Bad Blood: Secrets and Lies in a Silicon Valley Startup

Bad Blood: Secrets and Lies in a Silicon Valley Startup

シリコンバレーのテック企業のニュースを追っている人であれば、おそらくセラノス(Theranos)の名前をたびたび眼にしたことがあるのではないかと思う。

「医療の民主化」を掲げ、「指先からの血液1滴で200種類以上の病気が診断できる」とうたうセラノス社は、わずか数年前まで、未上場ながら90億ドルを上回る評価を受けていた。創業者であるエリザベス・ホームズは、当時未だ20代後半の若き女性でありながら、その資産はセラノス社の過半、5000億円にも達するとも言われ、彼女は「自力でビリオネアとなった最年少女性」、「第二のスティーブ・ジョブズ」としてメディアで賞賛を集めていた。

現在、彼女は詐欺行為で刑事訴追され、証券監視委員会からは50万ドルの罰金を課され、向こう10年間は公開企業への役員就任を禁止されている。同社が標榜する「血液1滴での検査」が完全なる嘘であり、検査の信頼性は著しく低く、ほとんどの検査は他社の機械を改造して行っていたと判明したからだ。

本書は、セラノス社の疑惑の第一報を報道し、追求を続けたウォールストリートジャーナル紙のジャーナリスト、ジョン・カレイロウによる過去3年以上にわたる報道の総集編である。彼は、この事件の報道でピューリッツァー賞を2度受賞し、その他ジャーナリズムに関する賞を多数受賞している。

エリザベス・ホームズ

物語は、セラノス創業者エリザベス・ホームズの生い立ちと起業の経緯から始まる。

彼女の曾祖父は医師であり、その妻はパン酵母の開発と食料品販売で財を成した米国有数の実業家の娘であった。そのため、彼女は医療者と起業家の2つのDNAを受け継いでいたのだという。しかし、彼女の祖父の職業上の失敗、複数回の離婚とアルコール依存により、ホームズ家の財産は浪費されてしまった。彼女の父親はワシントンD.Cの政府機関に勤める官僚であり、どうやらエリザベスが誕生した頃のホームズ家は、上流の名家ではあるが大富豪というわけでもないというような階層の家であったらしい。

そんなご先祖の物語を聞かされ育ったホームズは、既に幼少期から起業家になりビリオネアになるという確固たる意思を抱いていた。2004年、スタンフォード大学の化学工学部2年生のときには「身体に貼りつけられるパッチで血液の診断と投薬を行なうデバイス」に関する特許を申請した。当時19歳だったホームズは、特許申請にも協力したロバートソン教授からのアドバイスにより、その年にスタンフォードを中退してセラノスを起業した。会社名は治療(therapy)と診断(diagnosis)に由来し、当初は血液検査のみではなく、ナノテクノロジーを応用したドラッグデリバリーシステムの製品化を目指していたようである。しかし、最初期の目標であった「診断と治療」はあまりに野心的すぎることが分かり、製品開発の目標は診断デバイスへと絞られた。

最初のプロダクト開発目標は、マイクロ流体工学とナノテクノロジーを用いた血液検査デバイスであったという。何度かの資金調達の後も製品化に至らず、再度このプロダクト開発の方針も変更された。最終的に完成した「エジソン1.0」という名を与えられたプロトタイプは、既製品の小型ロボットアームを使い、機械的な操作によって血液検査を自動化する小型のデバイスであった。

当初の壮大な目標からは下方修正されたものの、高速で安価、どこでも実施できる血液検査が医療業界に革新を起こすはずだったことは疑いはないだろう。その後、彼女は「ミニラボ」という名の、200種類以上の検査ができるという触れ込みの小型デバイスの開発を目指していく…

 

本書の中では多くの人がホームズへの印象を語っているが、彼女の聡明さ、ハードワークを厭わないバイタリティの強さと強烈なカリスマ性には多数の人が賞賛を述べてる。その一方で、我が強く、独善的で、自分の能力に対する信頼が強く、他人の意見に耳を貸さず、部下には強い忠誠心と自分と同等の働きを求めるというソシオパス的パーソナリティを持つ人物でもあったようだ。正直なところ、上司にだけはしたくない人物である。たとえば、「エジソン1.0による臨床試験の実施は時期尚早である」と具申した幹部を有無を言わさず解雇したり、経営者としての彼女の未熟さに危機感を抱いた取締役会によるクーデターを受け、逆に彼らを説得し返した(その後やはり役員たちは解雇された)のだという。社内では、厳格な秘密主義を取りあらゆる情報の流れをコントロールし、同じ機能を開発する2つの独立したチームを作って成果を競わせたというエピソードが記されている。

プロトタイプは不完全なものであったが、セラノスは各国の政府機関、そして米国の製薬企業や小売・薬局チェーンに売り込みを掛け、提携契約を結んでいった。実際のところ、検査結果の信頼性は非常に低いものであり、提示された結果はあらかじめ準備されたものであったり、他の検査会社へと外注されたものであったという。もちろん、提携企業の中にはセラノス社のテクノロジーに疑問を抱き、詳細な調査を要求する者もいた。彼らの疑惑は、秘密保持契約とホームズのカリスマによって阻まれ、表に出ることはなかった。

ジョン・カレイロウ

前半部も十分に面白いが、本書のヤマ場は語り手たるジャーナリストのカレイロウ自身が「疑惑の追求者」として物語への関与を始める19章以降だろう。

医療詐欺問題の取材経験があったカレイロウは、2015年のはじめごろ、医師であるブロガーからのタレ込みを受けてセラノス社の疑惑を知り、元従業員やセラノスの検査を受けた被験者など、様々な筋から疑惑の追求を始めていく。同時に、セラノス社の社員の側でも内部告発者が現れ、またセラノス上層部もそれを察知し、ニセ情報、脅迫や圧力など、あの手この手でネガティブな報道を握り潰そうと試みる。

情報提供者の一人である元従業員は、セラノスの代理人である弁護士に尾行され、訴訟をチラつかせた警告を受ける。カレイロウ自身のオフィスにも弁護士が訪れ、長時間の押し問答をくり広げる。更に、ウォールストリートジャーナル紙の本体、そのオーナーであるメディア王ルパート・マードックにも接触する。実は、マードック自身もセラノス社へ投資をしていた株主であった。ホームズはマードックに対して、記事を公開しないよう圧力をかけることを依頼する。

しかし、度重なる妨害にも負けず、2015年10月、ついにセラノス社の疑惑はウォールストリートジャーナル紙上で報道された。その後もカレイロウは20本以上の追求記事を執筆し続け、一時はユニコーン企業として注目を集めたセラノスの評価は地に堕ちたのだった。

「企業秘密」というぶ厚い壁によって隠された疑惑を暴き、ついには規制当局を動かすまでに至った緻密な調査報道の過程は、下手なサスペンス小説よりも面白い。とはいえ、本書のあまりに巧みなストーリーテリングには、ノンフィクションのドキュメンタリーとしては警戒感を覚える部分もある。その点をさし引いたとしても、長期間最前線で疑惑を追求し続けた当事者による熱のこもったレポートとしてきわめて意義があるものなので、その賛否については是非本を手に取って判断してほしい。(日本でも注目を集め始めているようなので、そのうち翻訳もされると思う)

セラノスの教訓 -ビジョンと嘘-

まず、本書を通読して気付いたのは、超能力主義社会であると考えられているシリコンバレーの起業家界隈の縁故主義である。

最初期段階の資金調達の際、ホームズは両親の人脈をフル活用し、幼馴染の父親でもある著名ベンチャーキャピタリスト、ドン・ルーカスからの投資を受けたという。この出資がセラノスに一種のお墨付きを与え、更なる投資への呼び水となった。Oracle創業者であるラリー・エリソン、前述のルパート・マードックといった実業家も、個人の資金をセラノスへ投じている。更に、父親が政府機関に勤務していたコネを生かし、元国務長官ジョージ・シュルツヘンリー・キッシンジャー、後にトランプ政権で国防長官を務めるジェームズ・マティスなどそうそうたる著名人を取締役会に迎え入れている。ところが、投資や役員就任にあたって、法的・技術的な調査はほとんど重視されなかったようである。

それだけではなく、セラノスではホームズの恋人がナンバー2の地位を占め、それ以外にもスタンフォードの同級生や弟が従業員として働いていたという。むろん、未だ世界に存在しないビジョンを実現するにあたっては、小手先の技術的な実現可能性よりも、個人の人柄や関係性が大きな判断材料となるであろうことは理解できるし、公開企業ではないため従業員や役員に誰を雇うかも自由である。けれども、これはあまりにも杜撰すぎるガバナンスであろう。


そして、もう一つは「技術開発における将来の夢想的で壮大なビジョン」を、いかに取り扱うべきかという問題である。これと同じ問題については、核融合研究の研究不正の歴史を扱った本を紹介したときにも書いたことがある。

テクノロジーの開発は、「かつて不可能だったこと」を可能にするものだ。これまで不可能だった領域に、前人未踏の領域に踏み込み、かつて誰も成し遂げたことのない新たなテクノロジーを開発するためには、何らかのビジョン --「世界をこう変えたい」という希望と信念-- が必要とされる。--「無尽蔵のエネルギー」、「人間レベルの知能」、「不老長寿」など。こういったビジョンは、科学者が直接的に言及することは少なくても、科学研究を裏付ける原動力なのだ。テクノロジーには、希望的観測を実現していく力があることは否定できない。

ところが、この「希望的観測」が暴走したり悪用されたりした場合、存在しない現象を観察・捏造してしまったり、既に間違いが示された結論を延々と擁護し続ける状況に陥ってしまう。最後は、社会がそのビジョンを是認するか否かという、科学的な根拠と論理とは別レベルでの決着となることがある。

「ビジョン」と「嘘」は想像力という共通の起源を持ち、「ビジョンを語る行為」と「他人や自分を騙す行為」の間にある違いは、思った以上に小さいようである。現在では、アカデミアの研究から企業の技術開発に至るまで、「将来のビジョン」に対して莫大な値札が付けられている。「楽観的で壮大なビジョン」が「自己欺瞞と詐欺」へと変貌するセラノスの物語は、科学者や経営者が語る夢想的ビジョンを、「元気が出る」、「夢がある」と安直に肯定する風潮に対して、再考を迫るものである。

 

カレイロウ自身が強く主張している通り、人命や健康が問題となる生命科学や医療研究において、シリコンバレー的な「信じれば夢は叶う (fake it till make it)」の成功哲学を適用することは、端的に誤りである。情報テクノロジーやソフトウェアとは異なり、物理世界や生命分野でのイノベーションは多大な時間と労力と資金を要し、安易なイノベーションを追求すれば似非科学的な代替医療や詐欺の温床となる。医療産業が極めて強力な法規制を受けていることは、決して偶然ではない。


けれども、結びの言葉にもある通り、おそらく19歳で起業した時のエリザベス・ホームズは、投資家や患者を騙して大金をせしめようなどという悪意は持っていなかっただろう。彼女は、純粋に自身のビジョンを信じ、手軽で安価で高速な診断・治療デバイスの普及が人類を病魔から救うと固く確信していたはずだ。

「皮肉屋は世界を変えられない。変革者たちは皆、最初は大ボラ吹きとして笑われたのだ」とよく言われることがある。しかし、ここには見落としがある。ホラ吹きは世界を悪い方向へと変えてしまうこともあるのだ。

映画

『マネー・ショート (The Big Short)』のアダム・マッケイ監督が、本書を原作とした同名の映画を撮影しているそうで、2019年に公開予定とのこと。こちらも期待。

ハンナ・アーレント『暴力について』の未来学者に関する抜粋

暴力について―共和国の危機 (みすずライブラリー)

暴力について―共和国の危機 (みすずライブラリー)

アーレントは、人間が行動アクションを通して外界に変化を及ぼす能力と、嘘をつき、自分や他人を騙す能力の間にある共通点を見ている。

…変化は、もしわれわれがいま自分の肉体がいるところから頭のなかで自分自身を移して、さまざまな事物がいま現にあるのとは異なるものであるかもしれないことを想像する丶丶丶丶ことができなければ、不可能である。いいかえれば、〈事実の真理〉の意識的な拒否--嘘をつく能力--と事実を変える能力--行為する能力--は相互に関連しているのであって、両者は想像力という共通の源泉によってはじめて存在するのである。実際には雨が降っているときに「太陽が照っている」という丶丶ことができるのは、けっしてあたりまえのことではない (何らかの脳の障害のためにこの能力が失なわれることもある)。むしろ、それは、われわれは感覚的にも精神的にも世界にたいして十分やっていけるだけの能力を備えているけれども、世界の譲渡されない部品の一つとして世界にぴったりはまっていたり埋め込まれているわけではないということを示している。(p.3-4)

現実リアリティは、論理的帰結を引き出すための前提のようなきちんとしたものを提供することはけっしてない。AとCとをともに望ましくないものとし、それゆえにBをよしとするような種類の思考は、無数にある真の可能性から人の気をそらし、判断力を鈍らせる以外のどんな役にも立たない。これら問題解決家たちとほんものの嘘つきとの共通点は、事実を抹消しようとする目論見と、事実がほんらい偶然的なものであるがゆえに抹消は可能であるという自信をもっていることである。(p.11-12)

未来学者は、この「行動のためのビジョン」と「欺瞞」とを意図的に、または無意識のうちに混同していると言える。

未来の出来事をこのように仮説として構築するにあたって生じる論理的な欠陥は、つねに同一である。それは、最初に仮説として登場するものがーその精緻さの程度に応じて、言外の選択肢があるにせよないにせよー二、三節先ではいきなり「事実」となり、さらにその事実から同じように一連の事実ではないものが生み出され、その結果、その企画全体の純然たる思弁的な性格が忘れ去られてしまうということである。いうまでもなく、これは科学ではなく似非科学であり、ノーム・チョムスキーの言葉を借りていえば、「真に重要な知的内容をもつ諸科学の上辺を真似ようとする」「社会科学や行動科学の絶望的な試み」である。そして、「この種の戦略的な理論にたいする」最も明白で「最も根底的な反対の理由は、それがあまり役に立たないということではなくて、それが危険だということである。というのは、この種の理論はわれわれが理解していない出来事を理解しているかのように、その流れを支配していないのに支配しているかのように信じ込ませるからである。」(p.101)

これらの文脈を少し補足しておく。アーレントはドイツ出身のユダヤ人で、ナチスの政権掌握後に迫害を逃れフランスへ、その後アメリカ合衆国へと亡命し、そこで後の生涯を過ごした。

彼女の著書の中ではナチズムや全体主義に関する政治哲学研究が有名ですが、この本は1960年代〜70年代に英語で書かれたアメリカの政治問題を扱った時事評論で、特に冷戦、ベトナム戦争時のアメリカ外交・軍事政策における意思決定の欺瞞と錯誤について論じている。ここで言われている「問題解決者」、「未来学者」は、大学や政策シンクタンク等に所属し、冷戦中の核軍拡やベトナム戦争への介入を正当化する戦略論を構築した人々を念頭に置いている。

更に以下の通り続く。

出来事というものは、ほんらい、決まりきった過程や手続きを中断するものである。重要なことが何も起こらない世界でなければ未来学者の夢は実現しない。未来の予言は現在の自動的な過程や手続きの投影以外の何物でもないのであって、もし人間が行為せず予期せぬことが何も生じないとすれば起きそうなことにすぎない。良かれ悪しかれ、すべての行為とすべての偶発的な出来事は、予言が行なわれたりその兆候が見いだされる枠組み全体を破壊するのは避けがたい。(プルードンがことのついでにいった「予期せぬことの量の多さは政治家の思慮分別をはるかに超えている」という言葉は、幸いにもいまだに真実である。それが専門家の計算を超えていることはいっそう明白である。) このような予期されず、予言されず、予言することのできない突発的な出来事を「偶発事故」とか「過去の末期」と呼んで、どうでもいいもの、あるいは有名な言葉である「歴史のゴミ箱」として貶めるのは大昔から見られる巧妙なやり口である。このやり口はなるほど理論をきれいにわかりやすくしてくれるが、その代わりに理論はますます現実離れしてしまう。危険なのは、これらの理論が実際にそれとわかる現在の趨勢を証拠としているためにもっともらしいだけでなく、それらの理論が内在的につじつまがあっているために人びとを催眠術にかけてしまうという点である。それらはわれわれの常識を眠らせてしまうのであるが、この常識こそがわれわれが現実性リアリティ事実性ファクチュアリティを知覚し、理解し、処理するための心的器官にほかならない。(p.101-102)

ここでの未来学者に対するアーレントの指摘は、繰り返し予測に失敗する未来学者たちが、単に無知で無能であり知的に不誠実であるということだけに留まらない。歴史をある種の宿命的なものとして描き出すことによって、現実の歴史のあり方とあるべき未来に対する議論を不当に歪めるものであり、人々が国家や超巨大企業の利害に反する行動を取る手段を無力化するための手段として「未来」が利用されていることを述べている。

対象も文脈も違っているが、もちろんこれは現代の「未来学者」にも当てはまるように思える。

書評:『サイバネティクス全史』(トマス・リッド)

「サイバー」という語の起源と変遷を辿ることでさまざまな技術史と技術の文化史を統一的にまとめ上げる、ポピュラーサイエンス本かくあるべしというお手本のような本。二匹目のどじょう狙いのようなあからさまなタイトルによって、むしろ本書の企画のオリジナリティが分かりづらくなってしまっているのが残念だ。

サイバネティクス全史――人類は思考するマシンに何を夢見たのか

サイバネティクス全史――人類は思考するマシンに何を夢見たのか

「サイバー」という言葉は、すっかり日常の語彙に馴染んでいる。サイバースペース、サイバーセキュリティ、サイバー戦争… しかし、改めて「サイバー」とは一体何なのかと考えてみると、よく分からなくなってしまう。

辞書やWikipediaを軽く調べてみると、「サイバー」という接頭語は「サイバネティクス」に由来し、日常言語やサブカルチャー分野での「サイバー(スペース)」という言葉は、SF作家ウィリアム・ギブスンの1980年代の小説「ニューロマンサー」によって普及したのだとされている。

本書によれば、この単純化された「サイバー起源物語」は、一種の"神話"であるという。「サイバー」の起源も普及も、決して創始者や伝道師のみに帰せられるものではなく、学術的な研究としても文化的ムーブメントとしても、はるかに大きな広がりがある。帯のケヴィン・ケリーの推薦文に「戦争兵器からコンピュータ・ネットワーク、ソーシャル・メディア、監視技術、VRまでを一つのテーマで接続する。…」とある通り、本書が扱う対象は極めて多岐にわたる。著者によれば、このさまざまなテクノロジーの裏にあるのは、サイバネティクスの神話であるのだという。「サイバー」は、いつも「未だこの世界のどこにも存在しないマシン」を指しており、現実の研究開発と未来予測の物語が、サイエンスとサイエンスフィクションが織り合わされながら進んできたのだ。

サイバネティクスに共通の批判の一つは、それが栄えた1950年代にあってさえ、その構想が空想的で、技術の多くはまだ構築できておらず、当面実現しそうにないということだった。しかしながら、実在しないマシンについて理論化するのは欠陥ではない。その方面では、物理学という熟練の領域が先んじていた。物理学も重要できわめて成功した科学の分野であり、実在しない系を調べる。質量のないばね、質量はあるが体積のない粒子、理想的にふるまう気体のように。そういうものは実在しない。それでもそういうものを純然たる理論の形で理解することは、時計のような単純な物でさえ、それを理解するうえで肝要となる。(p.92)

ノーバート・ウィーナーとサイバネティクス

サイバネティクス」という用語の創始者は、MITの変わり者の数学者、ノーバート・ウィーナーであった。戦時中に従事した対空砲の偏差射撃に関する研究 (この研究自体は成果を上げられず、それほど評価されなかった) に着想を得て、戦後の1948年に「人間とマシンを統合する理論」を『サイバネティクス――動物と機械における制御と通信』という著書で提示したのである。サイバネティクスの核となる概念は、一言で言えば「人間と機械が密接に関連したフィードバック制御」である。飛行機を例に取れば、レーダーがパイロットの眼を拡張し、翼とエンジンが四肢と筋肉を拡張し、自動操縦装置は神経系を補足する。ウィーナーはこの概念を大きく拡張し、制御と通信を含むあらゆるシステムを対象とする理論を構築した。そして、ウィーナーの思想の影響はエンジニアリング分野に留まらず、社会学や人文学分野の著名な研究者も引き付けていったのである。

サイバネティクスの文化史

既に述べた通り、この本の内容は多岐にわたるため、一言で要約できるような本ではないのだけれど、本書を類書から区別する特徴的なポイントを挙げておくと、学術的なサイバネティクスの研究と同時に、その文化的な側面、特に未来に関する物語としての「サイバネティクス」を取り上げている点だろう。

 サイバネティクスの神話は未来を予測できるという強力な錯覚を生む。私を信じなさいと神話は言う。未来はこうなるのですと。それは虚構や予測ではない。まだ起きていない事実なのだ。したがって、技術の神話を未来への効果的で持続可能な道筋として維持するには、つねにそれを使って反復する必要がある。神話の約束を何度も繰り返し述べて、それが福音となり、そうであり続けるようにしなければならない。ドイツの哲学者、ハンス・ブルーメンベルクが著書の『神話に基づく変奏』で鋭く見て取った、「神話に基づく変奏」が必要なのだ。(p.14)

この「神話」の力を借りたのは科学者や技術者、人文学者に留まらない。マシンに人格を見出し、あるいは人間をマシンのように捉える見方は、技術開発の範疇を超えて広く影響をもたらした。

SF作家の作品のテーマとなったのはもちろんのこと、自己啓発作家やL・ロン・ハバートのような宗教家も自身のビジョンを説明するためにサイバネティクスの語彙を利用した。ポストモダン思想家やフェミニストは、「人間」と「マシン」、「科学」と「SF」の境界線をぼやけさせるサイバネティクスを、あらゆる二項対立を「脱構築」するものとして好意的に取り上げ、また、サイバネティクスカウンターカルチャーの世界にも根を張った。『ホール・アース・カタログ』で有名なスチュアート・ブランドもサイバネティクスに影響を受け、読者と世界との間でのフィードバック制御を実現するものとして雑誌を創刊したのだという。

Rise (and Fall) of Machines

サイバネティクスの神話は、決してユートピア的な明るい世界のみを語るものではなかった。新たな未来像が描き出され、アイデアが生み出され、技術が想像力へと追い付きそれを上回る(上昇)ものの、予想/約束された未来は到来せず、更に先の未来へと移し替えられ、ある種ディストピア的な世界観が支配的になって(下降)ていく。

既に1950年代にはウィーナー自身も自動化された戦争によるマシンの支配を予想していた。オートメーション化による労働力の過剰と技術的失業も、当時から今に至るまでずっと懸念されていたという。暗号通信が確立し本格的にサイバー化された社会は、サイバー戦争という新たな戦争を生み出した…

現在、大ざっぱに「AI」という旗印のもとにある技術と文化も、既に「サイバネティクスとサイバー」のもとで語られてきたことだと言える。「サイバネティクス」の歴史に留まらず、現在の情報テクノロジーの全体像、技術と文化全体を捉えたいと考える人に本書を薦めたい。

「人工知能と仕事」に関する本を2冊読んだ

AIは人間の仕事を奪うのか?~人工知能を理解する7つの問題

AIは人間の仕事を奪うのか?~人工知能を理解する7つの問題

タイトルにこそ「仕事」が入っているものの、仕事、ベーシックインカムから法律や倫理まで広く扱った本。
議論提起型の両論併記な書き方をされていて、安直にAIの期待と恐怖を煽るわけでも一方的に否定するわけでもない、良心的な本だった。

こちらは、労働ジャーナリストの著者による「仕事」のみに焦点を当てた本。

直近の未来における労働と雇用のあり方について、実務を知らないAI研究者が想像した話ではなく、各種統計と実務者へのヒアリングから、短中期的なタイムスパンでの現実的なシナリオを検討している。

短期的には、テクノロジーによって雇用は大きな変化を受けつつも、トータルでは「人口減による労働力減少」、「テクノロジーによる雇用代替」と「テクノロジーによる新たな雇用創出」がほぼ釣り合うのではないかと試算されている。それは、以下のような理由があるからだという。

  • オートメーション化可能なデータ処理や単純作業は、既に大半が実現されている
  • AI化以前でも、単純なIT化による省力化の効果も大きい
  • 完全な自動化と雇用代替にはロボティクスの発展が必要

中期的な予想のポイントとしては、AIとロボットによる雇用代替よりも前に、まず「すき間労働」の世界が来るとしている点だろう。もしも機械化が進んでいくならば、機械(資本)の価値は低下する一方で労働の価値は上がるため、人手不足と賃金増が続いていく。(この点は、ノードハウス氏の指摘と似ている) そこで、労働者は、細切れの、習熟やノウハウが不要であるが高賃金の仕事に従事するのだと言う。著者によれば、この「すき間労働」の期間に来たるべき完全なベーシックインカム社会への準備を進めるのだという。

直近15年程度の近未来予測としては比較的説得力があるものの、長期的な予測についてはほとんど根拠も無くシンギュラリティだのマインドアップロードだのと言い出すのは、ご愛嬌と言ったところ。

 

フレイ&オズボーン論文 (オクスフォード大学の研究) について

どちらの本も、2013年のフレイ・オズボーンによる『雇用の未来』論文の功罪について触れている。

約5年前、「近い将来、47%の職業が失われる」とセンセーショナルな報道が盛り上がったことを記憶している人も多いだろう。きっかけになったのが、しばしば「オクスフォード大学の研究」と呼ばれるこの論文、『The Future of Employment』である。

この論文の手法は、端的に言えば「その職業は自動化が可能かを、研究者が主観的に評価する」というものであり「原理的に自動化できると考えられるのか」を確率的に評価するものである。論文中にも明記されている通り、「いつ、いかなる方法で実際に自動化されるのか」は、この論文のテーマの範囲外になる。

現実に仕事が自動化・機械化されるためには、機械化に対するニーズ・コスト効率や、政治的な原因も絡んでくる。

この論文は、「機械化による雇用の喪失」を定量的に扱ったという点に一定の意義はあると思うし、「AIと雇用」に関する議論に大きく注目を集める効果があったことは否定できない。けれども、予測の手法や議論の前提やスコープが省略され、センセーショナルな結論だけが取り上げられたことにより、AIに対する過剰な期待ないし反発が生まれているように見える。

少し前に英国で「人工知能は将来、人間の47%の仕事を置き換える」というショッキングな研究が出された。これは日本でも話題になったが、欧州でも当然、驚きを持って受け止められた。ところでドイツでは、この問題に関して、追検証のスタディを複数の研究機関に委託した(ドイツは連邦制なので、各地の州政府が独立して動く気風がある)。

その追試研究の結果の数字はまちまちながら、ドイツでは「せいぜい1割程度」という答えとなった。それでも、その報告を重く見て、ドイツは「雇用(Arbeit) 4.0」という次の国家プロジェクトを始動した。同じ時期、日本では、この研究を客観的に再評価する指令を、国や財界が学会に下したという話を聞かない。むしろ47%という数値を、あちこちの人が我田引水や威かしのために、メディアで触れ回った印象しかない。

欧州におけるIndustry 4.0 − その虚像と実相(1) : タイム・コンサルタントの日誌から

どちらの著者も、AIに対する過剰な期待や恐怖が反転して、「なんだ、AIなんて大して仕事に影響しなかったじゃないか」と過小評価に継がることを懸念しているのではないかと思った。私自身も新テクノロジーが産業構造に影響を与えることは当然といえば当然だと思っているので、地に足の付いた議論が増えてほしいと思う。