ユヴァル・ノア・ハラリ著『NEXUS 情報の人類史』のご紹介
『サピエンス全史』は、ひょっとしたら２１世紀最高の名著かもしれない……くらいのノリで以前紹介したことがありました。これは、細やかな研究データから、人類が持つ社会的本能やコミュニケーションの“クセ”について、「でっかいおサルさん」から現代までどうやって文明を発展させ、どのような失敗をしてきたかを記述する、極めて興味深い内容です。当時もほんの一部の紹介にとどまったのですが、今から復習がてらに語っても良いくらいの名著と言えるでしょう。
その『サピエンス全史』の著者、ユヴァル・ノア・ハラリによる新著が上梓されました……と言ってももう結構前になりますが。それが『NEXUS 情報の人類史』です。
趣旨としては『サピエンス全史』に似通っていますが、中世以降の情報の在り方がどんなものだったかを振り返り、そして現代のAIがこの後我々人類に何をもたらすかを非常に生々しく予想するものです。
人間社会の情報ネットワークは常に誤りを犯す
本書の中で重要なキーワードになるのが「可謬性」と「自己修正メカニズム」です。著者・ハラリは、人間社会や制度が誤りを犯す「可謬性」を前提とし、それを修正する「自己修正メカニズム」の重要性を説きます。たとえば、科学は査読や実験の反復を通じて誤りを正し、知識を洗練させる強い自己修正メカニズムを持ちますが、これに対し、カトリック教会のような宗教組織は、誤りを認めにくいメカニズムゆえに、長期間の安定を保ちつつも、魔女狩りのような過ちを招いたことがあると分析します。この比較は、情報の信頼性と社会の持続可能性が、誤りを認め、修正する能力に依存していることを示しています。
時系列的には前後しますが、私がたまたま直近で観たアニメ『チ。ー地球の運動についてー』はまさにカトリック教会と地動説を唱える科学者との対立を描いた傑作です（ただし、登場する地名・団体は架空のものとされる）。『チ。』においては、（最後まで観るとよく分かりますが）特に科学が正義という立ち位置に置かれることはなく、あくまで対等な立場としてその対立を客観的に描いています。その対立の軸こそ、（作中でそういった言葉は使われませんが）「可謬性」と「自己修正メカニズム」であるわけです。
『チ。』では途中で印刷機が登場し、それを両陣営が奪い合う様子が描かれています。教会側は印刷機を使って聖書をたくさん印刷し布教に使いたいし、科学者陣営は科学的事実を啓蒙するための研究発表に使いたいわけです。
インフルエンサーが「魔女狩り」を推進した話
『NEXUS』では架空の話ではなく、本当にあった怖い話が出てきます。ヨーロッパのキリスト教社会にかつて「魔女狩り」という恐ろしい文化があったことは皆さんご存じでしょうが、魔女狩りが始まって間もない頃にクラーマーという修道士が魔女狩りに熱を入れ、印刷機を使って『魔女に与える鉄槌（Malleus Maleficarum）』という本まで出版しました。趣旨としては、「DIYで誰でも簡単にできる魔女狩り♪」みたいなノリだったそうです。
一部引用します。
だがクラーマーは、印刷機を利用して反撃に出た。追放されてから二年のうちに、彼は『魔女への鉄槌（Malleus Maleficarum）』という書物を編集して出版した。これはいわば、魔女の正体を暴いて殺すためのＤＩＹ（ドゥーイットユアセルフ）ガイドブックであり、その中でクラーマーは魔王の世界的な陰謀や、誠実なキリスト教徒が魔女を見つけ出して撃退する方法を詳しく説明した。特に、魔法を使うことが疑われる人々に自白させるために恐ろしい手段で拷問を行なうことを推奨し、有罪とされた者に対する罰は処刑しかないと、断固として主張した。 クラーマーは、既存の考え方や物語を整理してまとめ、憎しみに満ちた想像力を盛んに働かせて多くの詳細をつけ加えた。彼は、「テモテへの手紙一」に見られるような古代キリスト教の女性蔑視の教えを拠り所とし、魔法に性的な特色を与えた。彼は、魔法使いはたいてい女性だと主張した。なぜなら魔法は性欲から生じるからであり、性欲は女性のほうが強いはずだからだった。彼は、性行為のせいで敬虔な女性が魔女となり、夫を骨抜きにすると読者に警告した。
過激な宗教裁判官だったクラーマーは一度は教会から追放されるも、印刷機を使って自分の思想を喧伝し、「魔女狩り」や「異端審問」といった教会の行為を増強しました。その中身はかなりエキセントリックで、教会からも眉を顰められていましたが、なんせ出版した本がベストセラーとなってクラーマーは当時のインフルエンサーになってしまったのです。
なんでこのような本がベストセラーになるのかと言えば、そりゃ２０世紀になっても東スポや『ムー』が売れるのと同じでしょうね。さらにそこに「制裁（サンクション）」という心理作用が大衆の娯楽性を深めます。誰かを悪人として仕立て上げて叩くのは楽しいですからね♪
結果、クラーマーの存在感を無視できなくなった教会は、彼を教皇代理にまで任命することになります。
我々はすでにAIにコントロールされている
もうひとつ、我々にとってさらに身近で恐ろしさを実感できる事例をハラリは紹介しています。
２０１７年、ミャンマーにおいてイスラム系少数民族ロヒンギャへの大規模な弾圧がありました。実はこの時、反ロヒンギャ勢力が過熱した要因のひとつが誰も知ってるSNS『フェイスブック』でした。しかしながら、これは反ロヒンギャが「フェイスブックを利用した」と言うより、フェイスブックのAIが誤情報の管理について怠惰だったことに加え、より人々の注目しやすそうなコンテンツを優先的に表示するというアルゴリズムが作用した結果だと言います。つまり、「人間がコンピュータネットワークを利用した」のではなく、「AIがコンピュータネットワークを使って人間の集団を動かした」ことになります。
とは言え、AIには「ロヒンギャを弾圧したい」なんて願望はないでしょう。元々のアルゴリズムに従った結果、AIはロヒンギャ弾圧の手助けをしたことになるわけです。
さらに怖いのは、この話が今年や去年ではなく、８年前のことだということです。我々はそれこそここ１～２年やたらAIを話題にすることが多くなり、「人類がAIに支配される未来」を語っては恐れたり笑ったりしているわけですが、すでに局所的には人類がAIにコントロールされる事象はもう８年も前に起きているのです。
と、今回は本書の中核に位置する代表的な２か所の紹介にとどまりましたが、今後要所要所で『NEXUS』の話は出てくると思います。
あ、ところで、この本の中に囲碁のAIアルゴリズムの話が出てきましたが、私がかつて当ブログで書いたこの記事にかなり似通っています。
ハラリも『知の小人ブログ』の愛読者だったんですね♪
……とか書くと、本気にするアレな人が出てくるので断っておきますが、冗談、ですから。
コメント