書籍【NEXUS～情報の人類史（下）AI革命】読了
下巻では、これまでの情報の人類史とは決定的に異なり、「AI」についての話となる。
ハラリ氏は、AIを単なる「道具」とは考えていない。
今世間を騒がせているAIは、情報を自ら消費し、分析し、人間が理解できない論理で自ら決定を下す「独立したエージェント（行為主体）」であると定義しているのだ。
AIの「A」はArtificial（人工）ではなく、Alien（異質な、エイリアン）だと説いたのは、なるほどと思った。
AIと人間は、動く目的が全く異なっている。
人間には当然感情があるし、そもそも意思がある。
AIには、まったくそれらがない。
その代わりに、AIが備える、人間には全く理解できない動きがあるのも事実。
それが「アルゴリズム」だ。
そもそもアルゴリズムだって、所詮人間が与えた計算式のはずだった。
それが、すでにどういう経路で出力結果に辿り着いているのか、人間でさえ理解できなくなっている。
人間がアルゴリズムを制御できなくなっているのだ。
SNSのアルゴリズムが人々の分断を煽り、怒りや憎しみを拡散させているのは、AIに悪意があるからではない。
単にAIは、命令に従って、効率性を徹底的に高めているだけだ。
目的を達成するために、最適な方法を選択しているだけで、そこに意思は存在しない。
果たして、アルゴリズムによってより効率化され、最適化されていくことは、人間にとって良いことなのだろうか。
例えば地球環境を考えた時に、AIの判断が「人間こそ地球環境にとって害悪だ」という結果を導いたとしたら、AIは人間を排除するのだろうか。
私たちが生み出したAIは、人間の知能をすでに凌駕している。
そんな超知能が、私たちの社会そのものをハックし、コントロールしようとしている。
この現実に、私たちはどう立ち向かうべきなのか。
ハラリ氏が提示する最も重要な処方箋は「自己修正メカニズム」という考え方だが、それだけで事が解決するとは到底思えない。
「自己修正メカニズム」とは、私たち自身が間違う可能性がある（可謬性）ことを認め、間違いを検出し、修正する仕組みを埋め込んでいくことを示している。
民主主義や科学技術の発展がこれに相当するというのだが、それでは民主主義が正しいかと言われると、ブレグジットやトランプ政権誕生などを見ても、完璧とは言い難いのではないだろうか。
科学技術の発展にしても、原爆の使用などを見ても、同じような印象を持ってしまう。
しかし、だからと言って、民主主義や科学技術の発展が全く駄目かと言うと、そういう訳では決してない。
全体主義の国家や硬直した独裁体制の場合は、自分たちは間違えない（不可謬）という前提に立って情報の流れを一方向に制御するため、結果、間違いを修正できずに破滅に向かってしまう。
それよりは、「私たちは間違う可能性がある」と思って進んでいるだけ、我々はマシなのかもしれない。
このように考えると、「自己修正ができる文化」は、人間にとって貴重な能力なのかもしれない。
最近でこそ、リベラルアーツの重要性や、倫理観の重要性が叫ばれている。
AIは自身のアルゴリズムによって、正しいと思ったことは疑わずに突き進んでしまう。
それこそ何も考えずに、24時間休みなく働き続けることができる。
人間の場合は、行き過ぎた時点でストップをかけられる「理性」というものが、確かに存在する。
そこは大きな違いのような気がしてしまう。
（もちろん、人間の理性も完璧とは言えず、数々の失敗を繰り返している）
AIがどれほど進化しても、意識と心を持つ人間にしかできない事があるのだろう。
それこそが、ストップをかけられる理性だ。
この理性を放棄した時点で、我々は、人間として生きる意味をなくしてしまう。
AIの下で、アルゴリズムに支配された世界の中で、粛々と生きていくだけだ。
（それはそれで快適で生きていきやすいのかもしれない）
これからの未来は、本当に人間力が問われる時代だと思う。
ホモ･サピエンスとは、「賢い人」という意味らしいが、すでにAIが我々ホモ･サピエンス以上に賢くなった世界で、我々は何を糧として生きていくのか。
溢れかえるほどの情報量に翻弄されている我々に、出来ることはあるのだろうか。
徹底的に効率化を目指して突き進むAIに対して、「そうじゃない。いったん止めろ」と本当に言えるのだろうか。
「自己修正」することは、そんなに簡単なことではない。
やっぱり、人間としてこれからどうやって「理性」を育んでいくのか。
問いを持ち続けていくしかないと思っている。
自分の年齢を考えると、ここで思考停止に陥るのはまだ早い。
諦めずに、AIの進化を受け入れて、自分の現状維持バイアスに抗ってみたいと思っている。
そんなことを本書を読んで、考えさせられてしまった。
（2025/8/20水）
