テクノロジー悲観論者は世界と未来をどのように見ているのか

ダイヤモンド社と共同で行なっていた「海外投資の歩き方」のサイトが終了し、過去記事が読めなくなったので、閲覧数の多いものや、時世に適ったものを随時、このブログで再掲載していくことにします。

今回は2020年1月30日公開の「グローバル化とテクノロジー革命によって国境がなくなり 「上級国民(適正者)」と「下級国民(不適正者)」に二極化していく」です(一部改変)。

******************************************************************************************

2019年末に話題の翻訳書が相次いで刊行された。前回はスティーブン・ピンカーの『21世紀の啓蒙』(草思社)を紹介したが、今回は世界的ベストセラー『サピエンス全史』で知られるイスラエルの歴史学者ユヴァル・ノア・ハラリの『21 Lessons 21世紀の人類のための21の思考』( 柴田裕之訳、河出書房新社)を見てみよう。

この順番にしたのにはじつは理由がある。ピンカーとハラリは、産業革命以降の“テクノロジー爆発”によって世界がどんどんゆたかで平和になっており、ひとびとはより幸福になった(はず)という事実(ファクト)を共有している。だが人類を待ち受ける未来について、ピンカーはとことん楽観的なのに対し、ハラリはかなり悲観的だ。両者を比較することで、私たちがどのような世界を生きているかがわかるだろう。

未来は「エリート層」と「無用者階級」に分断される

ハラリは前作『ホモ・デウス テクノロジーとサピエンスの未来』( 柴 裕之訳、河出書房新社)で、「エリート層」と「無用者階級」に分断される未来を描いた。

これは一種のテクノロジー・ハルマゲドン論で、今後、IT(情報テクノロジー)とバイオテクノロジーが指数関数的に高度化していくにつれ、それを自在に利用できる一部のエリート層に権力が集中し、ビッグデータを使ったアルゴリズムによる「デジタル独裁政権」が樹立される。エリートたちはCRISPR-Cas9のような遺伝子編集技術で知能や身体能力を強化したデザイナベイビーをつくり、この「ホモ・デウス(神人)」たちが“デザインされていない(原始時代の痕跡を色濃く残した)一般人類”とは別の社会を形成していくのだという。

その結果取り残された“一般人類”が「無用者Useless People」だが、彼らはエリート層から“搾取”されるわけではない。基本的な労働はAIを搭載したロボットがすべて行なうのだから、もはや支配層には下層階級を搾取する理由はなくなる。こうして捨て置かれた人間たちが「無用者階級」を構成する。

ハラリの未来イメージは、1997年の映画『ガタカ』に近い。遺伝子操作により優れた知能・体力・外見をもった「適正者」と、自然妊娠によって生まれた「不適正者」に分断された近未来が舞台で、不適正者の主人公(イーサン・ホーク)が、子どもの頃からの夢だった宇宙飛行士になるために「適正者」になりすまし。宇宙局「ガタカ」の一員になる。

ハラリは、「グローバル化が進めば国境がなくなり、世界は水平方向には統一されるが、同時に人類が垂直方向に分割される」と述べる。ネットスラングを使うなら、未来は「上級国民(適正者)」と「下級国民(不適正者)」に二極化していくのだ。

ハラリのもうひとつ主張が「自由主義(リベラリズム)の終わり」だ。

第二次世界大戦勃発前の1938年の人類は、「リベラルデモクラシー(自由な民主政)」「ファシズム(全体主義)」「コミュニズム(共産主義)」という三つのグローバルな物語を提示されていた。それが30年後の1968年(冷戦時代)には「リベラルデモクラシー」と「社会主義/共産主義」の二つに減っており、さらに30年経った1998年(冷戦終焉)には一つしか見当たらなくなった。これが「歴史の終わり」で、フランシス・フクヤマは、人類は未来永劫「リベラルデモクラシー」とともに歩んでいくだろうと宣言した。

だがハラリは、そこからさらに30年過ぎた2018年には「選択肢は一つもなくなっていた」と述べる。その理由が「21世紀の大衆迎合主義(ポピュリズム)の反乱」で、ひとびとはもはや自由主義の理想を信じることができなくなったのだ。

ポピュリズムの時代を象徴するのが2016年のトランプ大統領の誕生とイギリスのEU離脱(ブレグジット)で、ひとびとは「自由主義の崩壊」によって残された空白を「過去の局地的な黄金時代にまつわるノスタルジックな夢想」によって埋め合わせている。ドナルド・トランプは「MAGA:Make America Great Again(アメリカをふたたび偉大に)」のスローガンによって、1950年代あるいは80年代の「古き良きアメリカ」を21世紀によみがえらせようとする。イギリスのEU離脱支持者は、ヴィクトリア時代と同じ「栄光ある孤立」によって、イギリスが「独立した大国」となって復活することを夢見ている。

だがこれは、先進国だけの現象ではない。中国は賞味期限の切れたマルクスの思想を捨て去り、2500年前の孔子の思想(儒教)に立ち戻ろうとしているし、ロシアも社会主義時代(ソ連)を全否定し、ナショナリズムと宗教(ロシア正教)によって帝政ロシアの栄光を取り戻そうとしている。

人類は、テクノロジーによる巨大な社会的変動を迎えるまさにそのときに(あるいは社会が大きく変動しているからこそ)、それに対処する政治思想をすべて失ってしまったのだ。ハラリの現状認識をまとめれば、このようなものになるだろう。

AIは人類を絶滅させるか

AI(人工知能)がビッグデータと深層学習で急速に知能を高め、囲碁や将棋のチャンピオンを打ち負かすまでになった。自動運転が実用化されれば交通事故は激減し、タクシー運転手は不要になるだろう。今後、「進化」したテクノロジーが私たちの生活を大きく変えていくことは間違いない。

それがデジタル独裁制へとつながるのは、近年の認知心理学や行動経済学が明らかにしてきたように、ほとんどのひとは合理的な判断ができないからだ。ヒトの脳は進化の産物なので、いまも(基本的には)狩猟・採集の旧石器時代の環境に最適化されている。それがインターネットの時代に適応不全を起こすのはむしろ当然なのだ。

そう考えれば、多くのひとが判断を「合理的なAI」に丸投げしようと考えるのは当然のことだ。そうすれば、「意思決定」などという面倒なことをしなくてもすむ。こうして“AIの独裁”を受け入れるようになる。

ハラリの「デジタル独裁制」のイメージは、「超監視社会」になりつつある中国だろう。独裁的な政府はいずれ全国民のDNAをスキャンし、そのデータを中央当局に集約することで、「医療データが厳密に私有されている社会よりも、遺伝学と医学研究の分野で計り知れないほど優位に立てる」とされる。

来るべきデジタル独裁制は、次のように描かれる。

権力の最上層にはおそらく、名目のみの支配者として人間がとどめられ、アルゴリズムはたんなる顧問にすぎず、最終的な権限は相変わらず人間の掌中にあるという幻想を私たちに抱かせるだろう。私たちは、AIをドイツの首相やグーグルのCEO(最高経営責任者)に任命したりはしない。とはいえ、その首相やCEOが下す決定は、AIによって方向づけられる。首相は依然としていくつか異なる選択肢から選べるものの、その選択肢はすべてビッグデータ分析の結果であり、人間たちの世界観ではなくAIの世界観を反映している。

こうした「デジタル・ディストピア論」に対して、「楽観主義者」のピンカーは、「ロボポカリプス(ロボットが反乱を起こす「ターミネーター」的終末論(ロボット+アポカリプス)」のようなテクノロジーへの不安を、「ジェット機が鷲の飛行速度を超えたから、そのうち空から舞い降りて家畜を襲うのではないかと危惧するようなものだ」と一笑に付す。こうした誤解はすべて、知能とモチベーション、考えと願望、推論と目的、思考と欲求を混同することからもたらされる(このうち前者はロボット=機械でも可能で、後者は人間のみが有する)。

ピンカーはまず、「人間以上の知能をもつロボットを開発したとしても、そのロボットが主人である人間を奴隷にして世界を支配しようと「望む」なんてことがはたして起きるだろうか」と問う。知能とは「ある目的を達成するため、新たな手段を考える能力のこと」だが、目的をもつことは知能とはまったく関係ない。

だがロボカリプス論者は、「知能があれば目的をもつはずだ」と誤解し、次のようなシナリオを考える。

・ダムの水位を保つようにという目標を与えると、人工知能はその達成のために町を水没させるかもしれない。もちろん町の住人が溺れようがどうなろうが、人工知能の知ったことではない。
・「ペーパークリップをつくれ」という目標を与えると、人工知能は入手できるあらゆる材料を集めてクリップをつくろうとするので、人間の所有物や人間の体まで材料にするかもしれない。
・人間の幸福感を最大にせよと命じたら、人工知能はドーパミンを点滴したり、どんなに孤独でも最高に幸せになれるように脳の配線をつなぎなおすかもしれない。

どれもAIの専門家が警告していることだが、こうした主張は次のような矛盾した条件を満たさなければならない。

(1) 人類はすばらしく優秀なので、全知全能の人工知能をつくることができる。しかしすこぶるばかなので、動作テストもしないまま、人工知能に世界の支配権を与えてしまう。
(2) 人工知能はすばらしく優秀なので、ある材料から別の何かをつくる方法や、脳の回線をつなぎなおす方法を見つけだせる。しかしすこぶるばかなので、指示内容を誤解するという初歩的なミスを犯し、大混乱を引き起こす。

そのうえでピンカーは、『テクニウム テクノロジーはどこへ向かうのか?』( 服部桂訳、みすず書房)のケヴィン・ケリー(『Wired』創刊編集長)の言葉を引用する。

1984年に第1回ハッカー会議を開催して以来ずっと、「技術はすぐに人間の能力を超え、人間を支配することになるだろう」という話を繰り返し聞かされてきたとケリーはいう。だがそれから数十年、技術は進化しつづけたが、いまだにそうした現象は見られない。

その理由をケリーは、「技術は強力になればなるほど、社会システムに深く組み込まれていくものだからだ」と説明する。AIのテクノロジーも、強力になればなるほどさまざまな社会ネットワークとつながり、世界をより安全で快適なものへと変えていくのだ。

現時点では、ハラリとピンカーのどちらが正しいのかを私が判断する術はない。だが今後、現実にAIが生活のさまざまなところで使われるようになれば、おおよその方向が見えてくるのではないだろうか。

「合理的な個人」という虚構

スティーヴン・ピンカー(楽観)とユヴァル・ノア・ハラリ(悲観)は、グローバル化についても同じ認識から出発する。ハラリは「文明の衝突」論を退け、私たちはみな「単一の混乱したやかましいグローバル文明」の一員であるという。

興味深いのは、その結果、いまでは世界は「文化差別主義者」で満ちあふれているとの指摘だ。リベラルな社会では「黒人は標準以下の遺伝子を持っているから罪を犯しがちだ」などという主張はとうてい受け入れらない。だが、「黒人は機能不全のサブカルチャーの出身だから罪を犯しがちだ」と述べるのは許されるばかりか、とても流行っているとハラリはいう。

人種差別的な社会では、マイノリティはどれほど努力してもマジョリティになることはできない(肌の色がちがう有色人種が白人になることはできない)。だが文化差別的な社会では、マイノリティはマジョリティの文化に同化することで、マジョリティの一員になることが許される。その意味で、「今日の文化差別主義者は従来の人種差別主義者よりも寛容かもしれない」。

だがヨーロッパの移民問題に見られるように、マイノリティは近代的な市民社会に同化するよう強い圧力をかけられ、(同性愛を罰したり、女の子に教育を受けさせないような)反市民社会的な慣習に固執するときびしい批判を浴びせられる。

私たちが抱える問題は、利害関係が複雑にからまり対立するグローバル文明に、「近代国家」という古い枠組みで対処するしかないことだ。その結果、核戦争や地球温暖化といったグローバルな問題に対して、ナショナリズムや宗教といった「局地的なアイデンティティ」が立ちふさがることになる。

人間の本性として、「当事者全員が同じ国家への忠誠心を共有しているときにだけ、民主的な選挙の結果を進んで受け容れる」ことができる。徹底的に社会的な動物であるヒトは、同じコミュニティに属する者のためには協力を厭わないが、異なるコミュニティに属する者の利害は無視する「部族主義者」として進化した。こうしたコミュニティを最大限に拡張したのが国家だが、そこでも統治の前提は「アメリカ人」「中国人」「日本人」のようなアイデンティティを共有していることだ。人種問題や移民問題を抱えるアメリカやヨーロッパではこのアイデンティティが揺らいでおり、それに不安を感じたひとたちが増えることで「ポピュリスト」や「極右」が台頭する。

ハラリは、「民主主義は有権者がいちばんよく知っているという考え方の上に成り立っており、自由市場資本主義は顧客はつねに正しいと信じており、自由主義の教育は自分で考えるように生徒に教える」が、「合理的な個人というものをそこまで信頼するのは誤りだ」という。

ホモ・サピエンスが「地球の主人」になれたのは、個人の合理性ではなく、「虚構をつくり出し、それを信じる」という類まれな能力によるものだった。これが『サピエンス全史』でのハラリの結論だが、私たちはいま「グローバル文明」という新たな共同体に必要な虚構をつくることができず、茫然と立ちすくんでいる。なぜなら、「さまざまな大陸に住む何億もの人の関係を理解しようとすると、私たちの道徳感覚は圧倒されてしまう」から。進化心理学でよくいわれることだが、「狩猟採集民の脳にとって、世界はあまりに複雑になり過ぎた」のだ。

このような「大規模な道徳のジレンマ」に、私たちはどう対処しているのだろうか。ハラリが挙げるのは次の4つだ。

  1. 問題の規模を縮小すること 「アメリカは善でイランは悪」のような善悪二元論で複雑な問題を単純化する
  2. 胸に迫る人間ドラマに的をしぼること 複雑なシリア難民問題を、「トルコの海岸でうつぶせで横たわる幼い男児」の写真で理解しようとする
  3. 陰謀論をでっち上げること 「格差拡大はウォール街の陰謀だ」のように、複雑な問題の背後にはなにかの陰謀が働いているとの筋書きをつくる
  4. ドグマを一つ生み出し、全知という触れ込みの理論か機関か支配者を信頼し、どこへなりと、導かれるままについていくこと この典型がIS(イスラム国)で、全知全能のアッラーの言葉に従うことで、その結果がどうなろうといっさい無関心でいられる。ハラリのいう「デジタル独裁制(全知全能のAI)」もこの一種になるのだろう。

資本主義の楽園と共産主義の楽園

『21 Lessons』で興味深いのは、「エリート層vs無用者階級」の分断への処方箋について述べているくだりだ。

「無用者(Useless People)」というのはその定義上、人的資本をすべて失ったひとだから、働くことで(人的資本を労働市場に投資して)富を獲得することができない。そのような貧困階級(プレカリアート)が大量に出現する未来を考えれば、「国家が全員にお金を配るしかない」との発想が生まれるのはごく自然なことだ。これがユニバーサル・ベイシックインカム(普遍的所得保障/UBI)で、欧米の「レフト(左翼)」「プログレッシブ(進歩派)」と呼ばれるひとたちのあいだでとても人気がある。

だがハラリは、最低所得を保障する代わりに、「普遍的な最低サービス」を保障する制度も考えられるという。「人々にお金を与え、好きなものを買えるようにする代わりに、無料の教育や医療や交通などを提供」する社会だ。結果的に無用者階級は、働かなくても最低限の生活を送ることができるだろう。

すべてのサービスを無料で享受できるようにするというのは、じつは共産主義の理想だ。そう考えれば、私たちは資本主義の楽園(普遍的最低所得保障)と共産主義の楽園(普遍的最低サービス保障)のユートピアを構想することができる。

だがここには、2つの困難な壁が立ちふさがる。ひとつは「普遍的」の定義で、サービスをどの範囲まで拡張すべきかという問題だ。

UBIを主張するひとたちは、「国家が国民にお金を配る」という「国家主義」を当然の前提としている。だがハラリは、このような偏狭な立場を退ける。「ユニバーサル(普遍)」という以上、その恩恵は最貧困国を含め、世界じゅうのすべてのひとびとに分配されなければならない。だがこのようにいわれて、アメリカやヨーロッパ、日本のようなゆたかな社会のひとたちは、自分たちの富がアフリカの貧しい国のために「普遍的」に使われることを許容するだろうか。

それより困難なのは、「最低」すなわち「基本的な必要」をどのように定義するかだ。

「「人間の基本的な必要」をいったんすべての人に無料で提供すれば、それは与えられるのが当然のものとなり、その後、基本的でない贅沢をめぐって熾烈な社会的競争と政治的闘争が起こるだろう」とハリルはいう。なぜなら、「ホモ・サピエンスは満足するようには断じてできていない」から。

拙著『上級国民/下級国民』(小学館新書)では、このUBIの限界を「性愛格差」で説明した。進化の産物であるヒトは、生存と生殖に最適化されるよう(利己的な遺伝子によって)設計されている。最低所得保障(ないしは最低サービス保障)によって生存の不安がなくなれば、残されたのは生殖=性愛の欲望だけだ。そうなれば、「経済格差」に代わって「性愛格差(モテ/非モテ)」がとめどもなく拡大していくだろう。

UBIを実現するには、「無用者階級」が「最低」の所得やサービスでも満足して生きられるようにするしかない。そのヒントは、じつはイスラエルにあるとハラリはいう。

ユダヤ国家であるイスラエルでは、ユダヤ教超正統派の男性の約半分が、国家からの所得やサービスの給付によって一生働くことなく、聖典を読み宗教的儀式を執り行なうことに人生を捧げる。そしてこの男性たちは、「最低生活」にもかかわらず、「どの調査でもイスラエル社会の他のどんな区分の人よりも高い水準の生活満足度を報告する」という。

その理由はおそらく、生存だけでなく性愛も満たされているからだろう。ユダヤ教超正統派の男性は、同じ超正統派の女性と結婚し、平均して7人の子どもをつくる。彼らのように「普遍的な経済的セーフネットを強力なコミュニティや有意義な営みと首尾良く結びつけられれば、アルゴリズムに仕事を奪われることは、じつは恩恵となるかもしれない」とハラリは述べる。もっとも私は、このような人生にまったく魅力を感じないが。

仏陀の教えでディストピアを乗り越えられるか

ハラリによれば、すべての問題の根源には「アイデンティティ」がある。私たちは、自分が何者であり、どの共同体(コミュニティ)に属しているかというアイデンティティ感覚がないと、不安に押しつぶされてしまう。

個人のアイデンティティは物語の上に築かれており、自分たちが所属する集団の制度や機関も物語の上に築かれている。この物語が聖書やクルアーン、あるいは国家創世の神話になるのだが、それらを「超えた」はずの近代的な市民社会も特有の物語にしばられている。

それが、「人間の感情は謎めいていて深淵な「自由意志」を反映しており、この「自由意志」が権限の究極の源泉であり、知能の高さは千差万別でもあらゆる人間は等しく自由である」という物語であり、それを前提に民主主義は成り立っている。

だがいまや、来るべきテクノロジー革命が「個人の自由」という考えそのものを切り崩しつつある。その結果、グローバル世界の唯一の物語である自由主義(「創造せよ、自由のために戦え」)ももはや機能しなくなってきている。

物語=アイデンティティを失った人類が、AIによるデジタル独裁制という未来(ディストピア)を避けるにはどうすればいいのか。『21 Lessons』の最後で、唐突にハラリは瞑想(マインドフルネス)を登場させる。

仏陀の教えとは「万物は絶えず変化していくこと、永続する本質を持つものは何一つないこと、完全に満足できるものはないこと」だ。これが、アイデンティティに固執することなく生きていく道を人類に指し示しているのだという。

ここにいたってハラリの主張は、映画『マトリックス』にとてもよく似たものになる。全世界で大ヒットしたこの映画では、キアヌ・リーブス演じる天才ハッカー「ネオ」は、「赤い薬」を飲むことで「覚醒」し、自分たちがコンピュータによってつくられた仮想世界に生きているという「真実」を知る。

『21 Lessons』の最後で、ハラリは次のように書いている。

近い将来、アルゴリズムは人々が自分自身についての現実を観察するのをほぼ不可能にするかもしれない。そのときは、私たちが何者で、自分自身について何を知るべきかは、私たちに変わってアルゴリズムが決めることになるだろう。

あと数年、あるいは数十年は、私たちにはまだ選択の余地が残されている。努力をすれば、私たちは自分が本当は何者なのかを、依然としてじっくり吟味することができる。だが、この機会を活用したければ、今すぐそうするしかないのだ。