AIは民主主義と全体主義をどれほど変えうるか？──『NEXUS æƒ…å ±ã®äººé¡žå²ã€

NEXUS 情報の人類史 上　人間のネットワーク

この『NEXUS』は、ホモ・サピエンスが世界を支配しているのは、特別に賢いからではなく「虚構」を操作し大勢で柔軟に協力できる唯一の種であると示した人類史本『サピエンス全史』で一躍有名になったユヴァル・ノア・ハラリの六年ぶりの大作ノンフィクションだ。今回のテーマは、副題にも入っているように「情報」になる(メインのNEXUSはつながりとか絆を意味する単語だが、その意味はのちにわかる)。

われわれはDNAからブラックホールまで、あらゆるものについて膨大な情報を獲得し、積み上げてきたにもかかわらずどうして世はこんなにもままならないのか？　いまだに戦争も貧困も根絶することはできない。長期的にみたら世界は平和になっていることも示されているが、少なくとも短期的には著しい落ち込みを示すこともある。

　私たちはなぜ、いっそう多くの情報と力を獲得するのがこれほど得意でありながら、知恵を身につけるのが格段に下手なのか？ p.8

本書は、こうした問いかけに情報という観点から答えを示すための一冊だ。

今回あらためてハラリが「情報」をテーマに据えているのは、こうした問いかけに対する本質的な問題に「情報」が関わっているとハラリが考えているからだ。たとえば、ほとんどの人間は善良な存在だが、善良な人に間違った情報を与えれば間違った判断を下してしまう。つまり「大量の情報がありながらも、正しい判断をくだせない」問題の本質は、悪質な情報が存在し、その質が改善しないのかにあるわけだ。

その問題点を真に理解するためには、そもそも「情報」が持つ意味を知ることが重要だ──といってあらためて情報の観点から人類史を洗い出していくところに、本書のおもしろさがある。同時に、現代は膨大な情報が溢れ、それをAIが整理・活用していくフェイズにあるが、その功罪について考える必要にも迫られている。

たとえば独裁的な性質を持つ全体主義国家は、これまでは中央に情報を集めても、それをリソース的な問題から十分に活かすことはできなかった。しかし、AIが活用できれば、より完全な監視体制が築きあげることもできる。一方で、のちにも触れるが全体主義国家にとってAIがマイナスに働く局面もあって──と、全体主義政権も民主主義政権も、膨大な情報およびそれを活用するAIの影響を不可避的に受けていく。

AI時代における全体主義政権と民主主義政権の未来を描き出すのも、本書の射程のうちである。ハラリはAIの専門家ではないから、AIの技術的な解説よりも社会的影響に焦点をあてている。そのため、『ホモ・デウス』などの前作と比べると情報密度の点では一段落ちているが、「虚構と現実」の相互作用というテーマは本作でも健在で、独自の視点で楽しませてくれる。今年ノンフィクションとしては最大の話題作でもあるし、前作を読んでいない人にも(テーマに興味があれば)おすすめできる一冊だ。

情報とは何なのか？

そもそも情報とは何なのか？　本書ではどう定義されているのか？　といえば、素朴な見方でいえば、情報とは現実を表す試みのひとつだ。たとえば目の前に石がある。石を指差すことも情報だし、これは石ですというのも情報で、「現実」を伝えている。

だが、情報とは何も現実、真実だけを表すものではない。目の前の石を指さしながら、「これは実は石のように見えるダンゴムシなんですよ」と誤情報を伝えることだってできる。意図的にやることもあれば、意図せず誤情報になることもある。誤情報の拡散の成功例でいえば、聖書が好例だろう。聖書は人類の起源や移動や感染症にまつわる現実を正しく表示できていないが、世界中に広まり、何十億もの人々を結びつけ、結果的にユダヤ教とキリスト教を生み出した。『聖書は何十億人もの人を束ねて宗教的なネットワークにする社会的プロセスを開始させた。』p. 52

　要するに、情報は現実を表示しているときもあれば、そうでないときもある。だが、情報はつねに人や物事を結びつける。これが情報の基本的な特徴だ。したがって、歴史における情報の役割を考察するときには、「どれだけうまく現実を表しているか？　正しいのか？　それとも間違っているか？」と問うのが理に適う場合があるものの、より重要な問いは「どれだけうまく人々を結びつけるか？　どのようなネットワークを新たに作り出すか？」であることが多い。p.52

「真実」と「秩序」

本書では、「情報」を「真実」と、人々を結びつける「秩序」という二つの機能面から扱う。真実が人々を秩序づけることもあるが、多くの場合秩序は虚構を通しての方が維持しやすい。というのも、真実はしばしば苦痛を伴うからだ。死にたくないと思っている年代で、末期がんですと告げられるのは苦しいことだろう。そういう時は、「がんは放置すれば治ります」といった甘美なフィクションに騙されたくなってしまう。

コストがかかり、複雑で苦痛を伴う真実とフィクションが並んだ時、どうしても安上がりで心地よいフィクションが勝つ傾向にある。これは社会にフェイクニュースと誤情報が溢れかえるのと理由は同じだが、真実とは異なっても、シンプルでわかりやすいフィクションが人を連帯させるのは、このような事情があるからだ。

バランス

そこまでの前提があると、「私たちはなぜこんなに情報を獲得しているのに知恵をつけるのが下手なのか？」という問いにも答えることができる。たとえば、真実よりもプロパガンダを垂れ流して秩序を優先するなら、かつてのスターリン主義がそうであったように、効率的に巨大な規模の秩序を維持することができる。代わりに、こうした全体主義のネットワークは自らが不可謬だと信じ真実を追求する機関を弾圧することで結果的に真実を隠すことになるから、常に硬直化の危険と闘う羽目になる。

一方で、秩序よりも真実を優先すると、疑いや意見の相違、対立、不和が解消できず、秩序が乱れ全体の行動は秩序を優先した組織よりも遅くなる。つまり、情報における「真実」と「秩序」は、そのどちらかだけがあれば良いものではなく、民主主義政権、全体主義政権どちらにとっても、真実と秩序はある程度は両者のバランスをとっていかなければならないものなのだ。そして、それが簡単にはいかないからこそ「知恵を身につける」ことが格段に下手くそなのだ、というのである。

民主主義政権は現代の情報テクノロジーを使って情報の流れをより多くの機関や個人の間で分散化し、真実の自由な追求を奨励する。その結果、砕け散る危険と闘う羽目になる。しだいに多くの惑星がしだいに速く公転していく惑星系のようなもので、中央は依然として体制を維持できるのか、それとも体制はばらばらになって無政府状態に陥るのか？ p. 256

おわりに

AIの発展の影響は今後、全体主義と民主主義政権の両者に利益と損害を与えるのは間違いないが、それはどのようなものなのか──が、下巻の後半部の論点だ。

一例をあげれば、全体主義政権下では中央に情報を集約してもそれをAIによって管理・チェックできるようになる一方で、一部の権力を握る人間がアルゴリズムの言いなりになり、政権それ自体がアルゴリズムの支配下になるリスクが指摘されている。これについては、民主主義体制下ではアメリカ大統領の操り方をAIが学習したとしても、連邦議会や最高裁判所など様々な立場からの反対に直面し阻止するだろう(そういう意味では、今まさに民主主義の機能が問われている最中だけれども)。

一方の民主主義では──と論じられている部分と、「その先に訪れる話」については、ぜひ本書を読んで確かめてもらいたいところだ。たとえば中国とアメリカのように、プラットフォームから情報機器までの分断が起こると、これから先社会はグローバル化とは真逆の「コクーン(繭)化」に向かうのではないかという話もある。「情報」という観点から現代社会の行く末を見通させてくれる、ハラリならではの大作であった。