Nexus: A Brief History of Information Networks from the Stone Age to AI Hardcover – September 10, 2024

I mean, it's Harari. What do you expect. Amazing book full of new ideas.

視野が広がりますよ。

若干まわりくどく勿体ぶってはいますが、A Iなど最新技術がいかに脅威となっているかを論じ警鐘を鳴らしています！ただ、答えが見つからない諦めを感じます。

Harari's books are invariably stimulating, but this one is downright frightening. Following the sequence of types of networks from the past to the present, Nexus is a wake-up call to what digital communication and AI can--and might--lead to. If a reader was looking at AI in particular as a "solution" to various problems, he or she will seriously reconsider the potential downsides--if not serious dangers--of casually allowing AI to handle a wide variety of tasks that all societies face.

An amazing piece definitely must read. It’s worth reading at least hundreds of books. He is a great author and the inspiration!

Harari's argument offers various concepts with eye-opening historical narratives. Each idea is easy to understand because of dichotomy—truth to order, story to list, superhuman bible to superhuman technology, intersubjective to objective and subjective, organic to inorganic, web to cocoon, etc.He sheds light on the information flow of historical events such as the witch hunts, Stallin's collectivization, and the Rohingya massacre. Every chapter is thought-provoking and page-turner.

情報の拡散、共有という視点で、世界の激動の歴史、今後を占っているのは、この作者らしい新しい視点。

ハラリは「サピエンス」以来、人間の社会を構築する上での「共通の物語」の重要性を論じてきた。本書では、聖書からソーシャルメディアまでの過去のメディアがいかにして各時代の社会のありように影響を与えてきたか、さらには現在進行形のAI技術が社会の情報や意思決定のあり方を変えることで、結果的にもたらし得る影響を論じる。ハラリは、情報には真実や現実を伝える役割と、共通認識を形成して社会秩序を構築する役割があるとする。ハラリは触れていないが、これはオースティンの言語行為論における区分（コンスタンティブ／事実確認的とパフォーマティブ／行為遂行的）を想起させる。そして、人間の社会においては、往々にして真実や現実よりも、社会秩序を構築する役割の方が強く発揮される。政治や経営においては、事実や科学に基づく意思決定よりも、往々にして政治的、情緒的な側面からの意思決定が優先される。そして情報技術の進歩による情報共有能力の拡大は、このどちらにも用いられる。印刷技術は科学的な知識を広めるためにも用いられれば、魔女狩りの過激思想を広める役割も果たした。ラジオは国民の共通意識を醸成して国民国家の形成にも寄与すれば、プロパガンダやヘイトを拡散してナチスによるユダヤ人の虐殺やルワンダにおける虐殺などももたらした。インターネットは人々の常用交換やコミュニケーションをスムーズにする利便性をもたらしたが、フェイクニュースや陰謀論の拡散ももたらしている。技術そのものはこのように多くの場合に価値中立的であり、適切な規制や制度設計が求められる。この辺りはハラリも言及しているがマクルーハン的だ。メディアおよびその上に構築される情報ネットワークが真実や現実を反映したレジリエントなものにするためには、フィードバックによる訂正メカニズムが重要である。これが宗教と科学を、全体主義と民主主義とを分ける。この主張は、ポパーの「開かれた社会」論を想起させる。ハラリが危惧するAIの危険性は、一般的な人間を超えた知性のリスクというだけではなく、このような「訂正可能性」にある。AIは特別に設計されない限り、対話を通してモデルを修正するということはない。そもそもなぜ特定の結論に至ったかの理由は明らかではなく、説明責任を果たすことは難しい。このような問題が改善されない限り、社会の意思決定にAIを用いることは民主主義の根本を壊してしまう。ここからは感想ーー近年のAIの技術的進歩のペースを見れば、社会におけるコミュニケーションや意思決定プロセスに革命的な影響を及ぼすのは不可避である、というかすでに起こりつつある。ハラリの視点がユニークなのは、歴史の中で、情報技術の進歩が社会の進歩をもたらすこともあれば、魔女狩りやホロコースト、スターリニズムのようなカタストロフももたらしてきたという点だ。ここまで見てきたように、個々の議論は必ずしも目新しいものではなく、メディア論や情報社会論の文脈で論じられてきたことも多い。しかし、それらの多くは、インターネット／ソーシャルメディアの急速な発展に置いていかれていた。そしてそれは、サム・アルトマンのような起業家の描くバラ色の未来にはならないはずだ。想定される社会的なインパクトの大きさを考えれば、本書のようにその危険性を多様な視点から批判的に議論することが必要だ。