偽情報時代の信頼とAIの未来｜ユヴァル・ノア・ハラリが語る民主主義・世界秩序・平和

偽情報時代に信頼が崩れる理由
アルゴリズムに移る信頼と民主主義の危機
AI時代のヨーロッパと新しい帝国秩序
AIは人間の仕事・言語・宗教をどう変えるのか
ガザとウクライナから考える平和と共感の条件

偽情報時代に信頼が崩れる理由

✅ 情報技術が発達しても、社会が賢くなるとは限りません。大量の情報の中に質の低い情報が混ざることで、人々はむしろ判断を誤りやすくなっています。
✅ 民主主義は「会話」によって成り立つ仕組みですが、共通の事実を共有できなくなると、その土台が大きく揺らぎます。
✅ 知性と知恵は同じものではありません。高い知性を持つ存在ほど、誤った物語や思い込みに強く支配される危険もあります。

情報が増えても、真実が増えるわけではない

現代社会では、かつてないほど多くの情報が日々流通しています。ニュース、SNS、動画、検索結果、AIによる回答など、人々はいつでも大量の情報に触れられるようになりました。けれども、ここで大切なのは「情報」と「真実」は同じではないという点です。

情報とは、かんたんに言うと、人の判断に影響を与える材料です。その中には正確な事実もあれば、誤解を招く断片、感情をあおる言葉、根拠の薄い主張も含まれます。つまり、情報量が増えること自体は、必ずしも社会の理解を深めるわけではありません。むしろ質の低い情報が増えるほど、賢い人であっても間違った判断をしやすくなります。

ここがポイントです。人間の問題は、知能が低いことだけではありません。高い知能を持っていても、前提となる情報が間違っていれば、結論も大きくずれていきます。社会が偽情報に覆われると、個人の判断だけでなく、選挙、外交、戦争、経済政策といった大きな意思決定まで不安定になります。

知性と知恵は同じではない

AI時代を考えるうえで重要なのが、知性と知恵の違いです。知性は、問題を解いたり、情報を処理したり、複雑な関係を理解したりする力です。一方で、知恵は、その力をどの方向に使うべきかを見極める感覚に近いものです。

人間は地球上でも非常に知的な存在ですが、その一方で、他の動物なら信じないような危険な物語を信じることもあります。宗教、民族、国家、イデオロギーなどの物語は、人々を協力させる力にもなりますが、使い方を誤ると対立や暴力を正当化する力にもなります。

つまり、知的であることは、必ずしも現実を正しく見ることを意味しません。むしろ知性が高いほど、複雑な理屈を組み立てて、自分たちの思い込みを強化してしまう場合があります。AIのような超知能を生み出す時代には、この点がさらに重要になります。高度な知能があっても、そこに知恵が伴わなければ、社会全体を危うい方向へ動かす可能性があるからです。

民主主義を支える会話が崩れている

民主主義は、単なる制度ではなく、社会全体の会話によって成り立っています。独裁が一人の命令によって動く仕組みだとすれば、民主主義は多くの人が意見を出し合い、互いに耳を傾け、共通のルールを探していく仕組みです。

しかし、会話には前提があります。最低限の事実を共有できることです。選挙結果、社会問題の実態、経済状況、戦争の原因などについて、基本的な現実認識が大きく分かれてしまうと、議論は深まりません。相手を説得する以前に、同じ現実を見ていない状態になってしまいます。

近年の民主主義の危機は、単に人々の意見が分かれているから起きているわけではありません。意見の違いは、民主主義にとって自然なものです。より深刻なのは、社会の中で「何が事実なのか」を共有する力が弱まっていることです。会話が崩れると、信頼も崩れます。そして信頼が崩れると、民主主義は形だけ残っても、中身を保つことが難しくなります。

信頼を取り戻すために必要な視点

偽情報時代の課題は、単に間違った情報を取り除けば解決するものではありません。必要なのは、情報の量ではなく、情報をどう受け止め、どう共有し、どう社会の合意につなげるかという視点です。

人間社会は、長い時間をかけて信頼を築いてきました。家族、地域、国家、市場、大学、メディアなど、多くの制度は人間同士の信頼を広げるために発展してきたものです。けれども、その信頼の間にアルゴリズムやAIが入り込むことで、人間同士の関係は大きく変わりつつあります。

だからこそ、偽情報の問題は単なるメディアリテラシーの話にとどまりません。民主主義、国際秩序、AIとの関係までつながる大きなテーマです。まずは、情報が増えるほど社会が賢くなるわけではないという前提を持つことが出発点になります。そこから、誰を信じるのか、何を事実とするのか、どのように会話を立て直すのかという次の論点が見えてきます。

アルゴリズムに移る信頼と民主主義の危機

✅ 現代社会では、人間や制度への信頼が弱まる一方で、アルゴリズムやAIへの信頼が高まっています。
✅ SNSのニュース表示、暗号資産、検索結果などを通じて、人々の判断のあいだにアルゴリズムが入り込んでいます。
✅ 民主主義の危機は、政治思想の対立だけでなく、情報環境そのものの変化によって深まっています。

信頼は消えたのではなく、移動している

現代社会では、政府、銀行、メディア、大学といった人間の制度に対する信頼が大きく揺らいでいます。政治家を信じられない、新聞やテレビを信じられない、専門家の言うことも疑わしい。こうした空気は、多くの国で広がっています。

ただし、ここで見落としてはいけないのは、信頼そのものが社会から消えているわけではないという点です。むしろ信頼は、人間の制度からアルゴリズムへ移動しています。たとえば、既存メディアを信用しない人が、SNSのタイムラインに表示される情報はそのまま受け入れてしまうことがあります。銀行を信用しない人が、暗号資産の仕組みには大きな信頼を置くこともあります。

つまり問題は、「誰も何も信じなくなった」という単純な話ではありません。人々は、新聞編集者や銀行員、政治家のような目に見える人間よりも、背後で動くアルゴリズムを信じるようになっています。ここに、AI時代の信頼の大きな転換があります。

民主主義は情報技術の上に成り立っている

民主主義は、理念や制度だけで動いているわけではありません。多くの人が情報を共有し、議論し、意見をぶつけ合うための情報技術に支えられています。近代の大規模な民主主義が可能になった背景には、印刷、新聞、電信、ラジオ、テレビといったメディアの発展がありました。

かんたんに言うと、民主主義は大勢の人々による会話です。小さな共同体であれば、顔を合わせて話し合うことができます。しかし、数百万人、数千万人が暮らす国家では、直接話し合うことはできません。そのため、社会全体の会話をつなぐメディアが必要になります。

そのメディア環境が大きく変わると、民主主義も大きな影響を受けます。SNSやAIが情報流通の中心になると、人々が何を知り、何を重要だと感じ、どの出来事に怒るのかまで、アルゴリズムが強く左右するようになります。これは単なる技術の変化ではなく、民主主義の土台を揺らす変化です。

編集者の役割が人間からアルゴリズムへ移っている

20世紀のメディア社会では、新聞やテレビの編集者が大きな影響力を持っていました。編集者は、社会で起きた出来事の中から、何を一面に出すのか、何を大きく扱うのかを決めていました。これは、人々に「何を考えるべきか」を直接命令するものではありませんが、「何について考えるか」を決める力でした。

現在、その役割は大きく変わっています。社会の主要な話題を決める力は、新聞社やテレビ局の編集部だけでなく、SNSプラットフォームのアルゴリズムにも移っています。どの投稿が拡散されるのか、どの怒りが可視化されるのか、どの情報が繰り返し表示されるのか。その判断の多くは、人間の編集者ではなく、自動化された仕組みによって行われています。

この変化によって、民主主義の会話は見えにくい力に左右されやすくなります。人間の編集者であれば、名前や責任の所在を問うことができます。しかし、アルゴリズムによる編集では、誰がどの基準で社会の話題を選んでいるのかが見えにくくなります。そこに、現代の情報環境の難しさがあります。

アルゴリズムへの信頼が生む新しい政治の形

人間の制度への信頼が弱まり、アルゴリズムへの信頼が高まると、政治や経済の中心も変化していきます。人間のリーダー、人間の編集者、人間の専門家が社会の判断を導く時代から、AIやアルゴリズムが見えない形で判断を誘導する時代へ移りつつあります。

この変化は、従来型の独裁や民主主義とは違う新しい政治体制を生み出す可能性があります。20世紀の独裁は、強い指導者が社会の中心に立つ仕組みでした。しかしAI時代には、必ずしも一人の人間が中心にいるとは限りません。人間ではない知能が、情報、金融、行政、文化の流れを管理する社会が現れつつあります。

ここで問われるのは、アルゴリズムを便利な道具として使うだけでよいのかという点です。信頼の移動を放置すれば、人間同士の会話や制度はますます弱くなります。民主主義を守るためには、情報を届ける仕組みそのものを見直し、人間が責任を持って会話を支える構造を取り戻す必要があります。次の論点は、このアルゴリズムの力が国際秩序やヨーロッパの独立性にどのような影響を与えるのかという問題につながっていきます。

AI時代のヨーロッパと新しい帝国秩序

✅ 世界秩序が崩れると、弱い国ほど安全を失いやすくなります。力の強い国が弱い国を従わせる「新しい帝国秩序」が現実味を帯びています。
✅ AIは、軍事力や経済力だけでなく、情報・金融・文化を支配する力にもなります。AI競争で遅れることは、国家の独立性を失うリスクにつながります。
✅ ヨーロッパが主権を守るには、各国がばらばらに動くのではなく、EUとして結束し、独立したAIのプレイヤーになる必要があります。

世界秩序の崩壊がもたらす不安定さ

国際秩序とは、国と国の関係を支える共通ルールのようなものです。もちろん、これまでの世界秩序も完璧ではありませんでした。戦争、不平等、暴力、植民地主義の影響など、数多くの問題を抱えてきました。それでも、21世紀初頭の国際秩序には、ひとつの大きな意味がありました。強い国であっても、弱い国を一方的に侵略して征服してはならないという感覚が、広く共有されていたことです。

この前提があるからこそ、多くの国は軍事費だけに国家予算を集中させず、医療、教育、福祉に資源を回すことができました。かんたんに言うと、隣国に突然侵略される可能性が低いと考えられる社会では、人々の生活を支える分野にお金を使いやすくなります。

しかし、その感覚が崩れ始めると、世界は一気に不安定になります。強い国が弱い国に要求を突きつけ、従わなければ力で押し切るという発想が広がれば、小国や中規模の国は安全を確保するために軍備へ向かわざるを得なくなります。これは、生活を豊かにするための予算が、再び安全保障へ吸い寄せられていく流れでもあります。

新しい帝国秩序はAIによって強化される

新しい帝国秩序の特徴は、単に軍事的な征服だけではありません。AIという新しい技術が、国家間の力関係を大きく変える点にあります。19世紀には、産業革命を先に進めた国々が、軍事、経済、輸送、通信の面で圧倒的な優位を持ち、世界の広い地域を支配しました。AI時代にも、似た構図が生まれる可能性があります。

AIは、兵器を高度化するだけの技術ではありません。情報を管理し、金融取引を動かし、世論を形成し、行政や教育、文化にも入り込む技術です。つまりAIを支配する国や企業は、他国の社会の内側にまで影響を与えられるようになります。

ここで重要なのは、AIの支配は目に見えにくいという点です。兵士や戦車が国境を越える場合、人々は侵略を認識できます。しかし、アルゴリズムやクラウド基盤、SNSの仕組み、AIサービスが社会の中心に入り込む場合、その影響は日常の便利さに包まれて進んでいきます。気づいたときには、仕事、情報、金融、文化の多くが、国外のシステムに依存している状態になっている可能性があります。

EUが抱える信頼の弱さと結束の必要性

ヨーロッパにとって、この問題は特に切実です。EUは、加盟国同士の信頼を土台に作られた政治的な枠組みです。しかし、国ごとの歴史や記憶が異なるため、共通の象徴や物語を作ることは簡単ではありません。通貨ユーロに実在の人物ではなく、橋や窓、扉のような抽象的な図柄が使われていることは、その難しさを象徴しています。

橋や扉は、開放性やつながりを表すものです。ただし、共通して尊敬できる人物を選べないほど慎重になりすぎると、政治的な共同体としての力は弱くなります。家を建てるときに窓や扉だけでは成り立たないように、EUにも共通の価値や強い結束が必要になります。

AI競争において、ヨーロッパは完全に無力な存在ではありません。経済規模、教育水準、科学技術、人材の厚みを持っています。実際、アメリカのAI開発にもヨーロッパ出身の研究者や技術者が多く関わっています。問題は、ヨーロッパがその力をひとつにまとめられるかどうかです。各国がばらばらに動けば、アメリカや中国の巨大な技術圏に飲み込まれやすくなります。

AI移民という新しい依存のかたち

ヨーロッパでは、移民が雇用や文化、政治的忠誠に与える影響が大きな論点になっています。移民をめぐる不安には、仕事を失うのではないか、文化が変わるのではないか、社会の一体感が揺らぐのではないかという感情があります。

しかし、AI時代には別の種類の「移民」も意識する必要があります。それは、国境を越えて入ってくるAIシステムです。AIはビザを必要とせず、光の速さで社会に入り込みます。そして、単純労働だけでなく、編集者、法律家、銀行員、作家、研究者の仕事にも影響を与えます。

この変化は、移民問題よりも静かに、しかし深く国家の主権に関わります。国外の企業や技術基盤に依存すれば、その国の情報空間、経済活動、文化形成が外部の論理に左右される可能性があります。だからこそ、ヨーロッパの独立性を守るには、EUとして結束し、自前の技術基盤とルールを持つことが重要になります。

主権を守るための選択

AI時代の主権は、国境を守ることだけでは成り立ちません。データ、クラウド、検索、SNS、生成AI、金融システムといった見えにくい基盤を誰が握っているのかが、国家の自由を左右します。

ヨーロッパがばらばらになれば、個々の国は巨大な技術大国や企業に対して交渉力を持ちにくくなります。その場合、形式的には独立国家であっても、実質的には外部の技術秩序に従う立場へ追い込まれる可能性があります。

一方で、EUとして結束できれば、ヨーロッパはAI時代の第三の独立した軸になり得ます。ここで問われているのは、単なる産業政策ではありません。民主主義、文化、国家主権をどのように守るのかという問題です。次の論点は、このAIの力がさらに深く、人間の仕事、言語、宗教の領域まで入り込んでいく現実へとつながっていきます。

AIは人間の仕事・言語・宗教をどう変えるのか

✅ AIの影響は、単純作業だけではなく、作家、編集者、法律家、銀行員など、言語や判断を扱う仕事にも広がっています。
✅ 人間の思考が言葉によって組み立てられているなら、言語を高度に扱うAIは、人間社会の中心的な領域に入り込むことになります。
✅ 金融や宗教のように、物語やテキストを土台にした制度も、AIによって大きく変化する可能性があります。

AIが奪う仕事は単純作業だけではない

AIの発展を考えるとき、多くの人はまず工場労働や事務作業、単純な入力業務を思い浮かべます。けれども、現在のAIが大きく変えようとしているのは、むしろ言葉を扱う仕事です。編集者、作家、法律家、銀行員、研究者、教師、コンサルタントなど、知識や文章を使って価値を生み出してきた職業が、AIの影響を強く受けるようになっています。

ここが重要です。AIは肉体労働の代替だけを目指しているわけではありません。文章を書き、資料を読み、議論を整理し、判断の材料を提示する能力が急速に高まっています。これまで「人間らしい知的作業」と考えられてきた領域に、AIが入り込んでいるのです。

特に編集者の役割は象徴的です。編集者は、社会の中で何を重要な話題として扱うかを決める存在でした。しかしSNSや検索、生成AIの時代には、その役割の一部をアルゴリズムが担うようになっています。つまりAIは、文章を作るだけでなく、社会が何に注目するかを左右する存在にもなりつつあります。

言語を扱う力が社会の中心を動かす

人間社会の多くは、言語によって成り立っています。法律は言葉で書かれ、金融は契約や説明によって支えられ、宗教はテキストや物語を通じて受け継がれてきました。政治もまた、演説、スローガン、議論、合意形成といった言葉の力に大きく依存しています。

そのため、AIが言語を高度に扱えるようになることは、単なる文章作成ツールの進化ではありません。社会のルール、信頼、価値観を組み立てる土台にAIが関わるということです。かんたんに言うと、言葉を支配する存在は、人間社会のかなり深い部分に影響を与えます。

人間の思考そのものも、言葉と深く結びついています。人は何かを考えるとき、頭の中で言葉を並べ、比較し、意味を選び取っています。文章を書くときも、話すときも、次にどの言葉が続くのかを完全に把握してから始めているわけではありません。ある意味では、人間の思考にも予測や連想の要素があります。

AIは、この言葉の予測や組み合わせを非常に大きな規模で行います。人間が短い文脈の中で考えるのに対して、AIは膨大な言葉のネットワークをもとに、複雑な関係を処理できます。そこに、AIが人間の知的活動を急速に追い上げている理由があります。

「考える」とは何かが問い直されている

AI時代には、「考える」とは何かという古くて新しい問いが重要になります。もし考えることを、言葉を論理的に並べ、結論を導く作業だと考えるなら、AIはすでに非常に強力な思考能力を持ち始めています。文章を読み、要約し、推論し、反論を作り、複雑な議論を組み立てることができるからです。

一方で、考えることには感情や身体感覚、痛み、愛情、不安、喜びといった経験が含まれるという見方もあります。この場合、AIが人間と同じ意味で考えているとは言いにくくなります。AIは言葉を扱えても、痛みを感じているのか、悲しみを経験しているのか、何かを本当に望んでいるのかは別の問題です。

この違いは、AIをどう位置づけるかに関わります。AIを単なる道具と見るのか、人間を超える知的存在と見るのか。あるいは、知性は高くても経験を持たない存在として扱うのか。この判断によって、仕事、教育、政治、宗教の設計は大きく変わっていきます。

金融はAIが理解しやすい物語の世界でもある

金融は数字の世界に見えますが、実際には言葉と物語によって支えられています。株式市場では、企業の将来性、経済の見通し、技術革新の可能性といった物語が語られます。投資家は、その物語を信じることで資金を動かします。

お金そのものも、共同の信頼によって成立しています。紙幣や硬貨、銀行口座の数字、暗号資産は、それ自体に絶対的な価値があるわけではありません。多くの人が価値を認め、交換に使えると信じているから機能します。つまり金融は、極めて高度な信頼の物語です。

AIが金融に入り込むと、この物語の作り方や取引の仕組みが大きく変わる可能性があります。すでに多くの取引は自動化され、AIが市場を分析し、判断を行っています。今後は、人間には理解しにくい金融商品や取引構造をAI同士が作り出し、AI同士の信頼のもとで経済が動く可能性もあります。

そうなると、人間は自分たちが暮らす経済の仕組みを十分に理解できないまま、その結果だけを受け取る立場になりかねません。金融をAIに任せる便利さの裏側には、人間が制度の意味を見失うリスクがあります。

宗教テキストの解釈にもAIが入り込む

AIの影響は、宗教にも及びます。多くの宗教では、聖典や注釈、伝統的な解釈が重要な役割を持っています。ユダヤ教、キリスト教、イスラム教のような宗教では、テキストが権威の中心にあります。これまでは、聖典そのものが話すわけではないため、司祭、ラビ、神学者、教師のような専門家が解釈を担ってきました。

しかしAIは、膨大な宗教文献を読み込み、言語の違いや時代背景を整理し、複数の解釈を提示できます。人間の専門家が一生かけても読み切れない量の文献を処理し、パターンを見つけ出すことも可能になります。

これは、宗教の権威構造を変える可能性があります。信者が疑問を持ったとき、人間の指導者ではなくAIに問いかけるようになれば、宗教的な助言や解釈の中心が移動します。印刷技術が宗教改革を後押ししたように、AIもまた宗教のあり方を変える技術になるかもしれません。

人間に残る価値をどう考えるか

AIが言語、金融、宗教、仕事に入り込む時代には、人間の価値をどこに置くのかが問われます。知性を、言葉を巧みに組み合わせて結論を出す能力だけで定義するなら、AIは人間を追い越していく可能性があります。

けれども、人間の価値は知的処理能力だけではありません。痛みを感じること、他者に共感すること、弱さを抱えながら生きること、責任を引き受けること。こうした経験は、人間社会を支える大切な要素です。

AIが高度化するほど、人間は「何ができるか」だけでなく、「何を大切にするのか」を問い直す必要があります。仕事を守るという話にとどまらず、社会の中心に人間を置き続けられるのかが問われています。次の論点では、この人間性の問題が、ガザやウクライナをめぐる平和、共感、国際秩序の課題へとつながっていきます。

ガザとウクライナから考える平和と共感の条件

✅ ガザの問題では、土地や資源そのものよりも、相手の痛みを見ようとしない心の狭さが対立を深めています。
✅ 平和に必要なのは、一方の苦しみだけでなく、双方の安全と尊厳を同時に認める想像力です。
✅ ウクライナ戦争は、強い国が弱い国を侵略して領土を奪ってはならないという国際秩序の根本を問う問題です。

ガザをめぐる対立は、物理的な不足だけでは説明できない

イスラエルとパレスチナをめぐる対立は、長い歴史と複雑な政治的背景を持っています。ただし、平和が不可能だと決めつける必要はありません。重要なのは、対立の原因を土地や水、食料といった物理的な不足だけに還元しないことです。

もちろん、土地、生活基盤、安全保障は深刻な問題です。けれども、ヨルダン川から地中海に至る地域には、人々が暮らすための家、病院、学校、生活の場所を作る余地があります。人間が食料をめぐって動物のように争っているという単純な構図ではありません。問題の中心には、相手の存在や苦しみを心の中に入れられないという心理的な狭さがあります。

かんたんに言うと、現実のほうが人間の心より広いということです。現実には、パレスチナ人も存在し、イスラエルのユダヤ人も存在します。どちらか一方だけを現実から消せば問題が解決するわけではありません。むしろ、片方の存在を否定する発想こそが、対立を長引かせる大きな要因になります。

双方の安全と尊厳を同時に考える必要がある

平和を考えるうえで大切なのは、どちらか一方の苦しみだけを見るのではなく、双方の安全と尊厳を同時に認めることです。パレスチナ人には、この土地で安全に、尊厳を持って生きる権利があります。同時に、イスラエルのユダヤ人にも、この土地で安全に暮らす権利があります。

この二つは、本来、論理的に矛盾するものではありません。一方の権利を認めたからといって、もう一方の権利が自動的に消えるわけではないからです。にもかかわらず、対立が深まると、人々は自分たちの痛みだけに強く集中しがちになります。相手の苦しみに目を向けることが、自分たちの苦しみを軽く扱うことのように感じられてしまうのです。

ここが最も難しい点です。深い傷を負った社会では、共感は簡単には働きません。けれども、平和の出発点は、相手の痛みを認めても自分たちの痛みが消えるわけではないと理解することです。自分たちの安全を求めながら、相手にも同じように安全を求める権利があると認める。その想像力がなければ、政治的な交渉も制度設計も前に進みにくくなります。

心を広げることが平和の前提になる

対立が長く続くと、人間の心は狭くなりやすくなります。狭くなった心は、複雑な現実をそのまま受け止めることができません。相手の歴史、恐怖、喪失、生活への願いを入れる余地がなくなり、現実のほうを単純化しようとします。

その結果、相手をいないものとして扱ったり、相手の苦しみを偽物だと決めつけたり、相手の権利を認めることを裏切りのように感じたりします。しかし、現実には複数の人々が同じ土地に暮らし、それぞれに恐怖と希望を抱えています。解決策は、現実を壊して心に合わせることではありません。心のほうを広げ、複数の現実を同時に受け止めることです。

この視点は、単なる理想論ではありません。政治的な合意や安全保障の仕組みは、相手の存在を認めるところからしか始まりません。相手を完全に否定したままでは、どのような停戦も一時的なものになりやすく、恐怖と報復の連鎖が続いてしまいます。

ウクライナ戦争が問う国際秩序の根本

ウクライナ戦争は、ガザとは異なる文脈を持ちながらも、現代世界の秩序を考えるうえで極めて重要な問題です。ここで問われているのは、強い国が弱い国に侵攻し、領土を奪い、自国に併合してよいのかという国際秩序の根本です。

20世紀後半から21世紀初頭にかけて、世界にはひとつの大きなタブーがありました。それは、力のある国であっても、他国を侵略して征服してはならないという感覚です。このタブーがあるからこそ、小さな国や軍事的に弱い国も、一定の安全を前提に国家を運営することができました。

この前提が壊れると、世界中の国々が不安になります。隣に強い国があれば、いつ領土を奪われるかわからない。そう感じる国が増えれば、医療や教育よりも軍事費を優先する動きが強まります。つまり、ウクライナ戦争はヨーロッパだけの問題ではなく、世界中の小国や中規模国家の安全に関わる問題です。

平和を守るには、共感とルールの両方が必要になる

ガザとウクライナの問題は、それぞれ背景も構造も異なります。それでも共通しているのは、平和には人間の内面と国際的なルールの両方が必要だという点です。

ガザをめぐる問題では、相手の存在や苦しみを認める共感が欠かせません。一方で、ウクライナ戦争では、侵略と併合を許さない国際ルールを守ることが欠かせません。心の広さだけでは暴力を止められず、ルールだけでも憎しみや恐怖を解消することはできません。

だからこそ、AIと偽情報の時代には、平和を支える条件がより重要になります。情報環境が壊れれば、相手への憎しみは広がりやすくなります。信頼が崩れれば、共通の事実をもとに話し合うことも難しくなります。国際秩序が崩れれば、力の強い者が弱い者を従わせる世界へ戻ってしまいます。

最終的に問われているのは、人間社会がどれだけ複雑な現実を受け止められるかです。偽情報、アルゴリズム、AI、帝国秩序、戦争の問題は別々に見えて、根底ではつながっています。信頼を失った社会が、もう一度人間同士の会話と共感を取り戻せるのか。その問いが、これからの世界を考えるうえで大きな軸になります。

出典

本記事は、YouTube番組「Building Trust in the Age of Disinformation – What Future Awaits Us? | Yuval Noah Harari」（Yuval Noah Harari／2026年2月26日公開）の内容をもとに要約しています。公開日とチャンネル情報はYouTube掲載情報を参照しています。

読後のひと考察｜AI時代の信頼は「気持ち」ではなく制度設計になる

✅ AI時代の信頼は、「誰を信じるか」だけではなく、「信じてよい仕組みになっているか」を問う問題へ変わっています。
✅ 偽情報対策で大切なのは、正しい情報を上から配ることではなく、情報の流れを検証できる状態にすることです。
✅ 人間中心の社会を守るには、説明責任、異議申し立て、透明性、監査の仕組みを社会の側に残しておく必要があります。

信頼は「人格」から「検証できる仕組み」へ移っている

偽情報やAIの問題を考えるとき、つい「誰を信じればよいのか」という話になりがちです。政治家を信じるのか、専門家を信じるのか、新聞を信じるのか、SNSを信じるのか。けれども、AI時代に本当に問われているのは、そこだけではありません。

これから重要になるのは、「信じてよい状態が作られているか」です。かんたんに言うと、信頼は人柄の問題から、仕組みの問題へ移っていきます。

もちろん、人間の誠実さは大切です。けれども、どれほど誠実そうな人でも、間違った情報を信じ込むことはあります。反対に、どれほど立派な制度でも、検証の仕組みがなければ腐敗します。だから、AI時代の信頼は、「この人は良い人そうだ」だけでは足りません。

誰が判断したのか。どの情報を使ったのか。間違ったときに修正できるのか。利用者は異議を申し立てられるのか。外部から検証できるのか。そこまで含めて、ようやく信頼の土台になります。

ここが、元記事の論点に加えて考えたい部分です。偽情報時代の危機は、単に嘘が増えたことではありません。嘘と本当を見分けるための社会的な手続きが、情報技術の変化に追いつかなくなっていることです。

DSAが示しているのは「投稿の削除」だけではない

EUのデジタルサービス法、つまりDSAは、オンライン空間における利用者保護や透明性を強めるための制度です。ここで大切なのは、DSAを単なる「投稿削除の法律」と見ないことです。

DSAが重視しているのは、プラットフォームが社会に与える影響を、見える形にすることです。違法コンテンツへの対応だけでなく、コンテンツ moderation の理由、広告の透明性、推薦システム、異議申し立ての仕組みなどが問題になります。

特に、EU域内で月間利用者が4500万人を超えるような大規模オンラインプラットフォームや大規模検索エンジンには、より重い義務が課されます。なぜなら、そうしたサービスは、単なる民間サービスであると同時に、人々が何を見て、何に怒り、何を信じるかに大きな影響を与えるからです。

昔のメディアであれば、編集長や新聞社の責任を問うことができました。しかしSNSや検索の時代には、社会の話題を作っているのが人間の編集者とは限りません。推薦アルゴリズム、広告配信、検索順位、通知の仕組みが、人々の注意を動かしています。

だからこそ、現代の情報環境では「誰が言ったのか」だけでは足りません。「どの仕組みが、それを人々に見せたのか」も問わなければなりません。信頼の対象は、発信者だけでなく、情報を運ぶ装置そのものに広がっています。

AI Actが問うのは、AIが賢いかどうかだけではない

AIについても同じです。AIをめぐる議論では、「AIは人間より賢くなるのか」「仕事を奪うのか」「意識を持つのか」といった話題が注目されます。もちろん、それらも重要です。けれども、現実の制度がまず問題にしているのは、もっと地味で、もっと実務的なことです。

そのAIは、どのような目的で使われるのか。人間の健康、安全、基本的権利に悪影響を与えないか。高リスクなAIであれば、リスク管理の仕組みがあるか。人間が監督できるか。記録は残るか。利用者は、AIと関わっていることを知ることができるか。

つまり、AI Actが示している方向は、「AIを信じるか、信じないか」ではありません。「信頼できるように作られているか」を問う方向です。

ここで重要なのは、信頼は宣言では作れないということです。「私たちのAIは安全です」と企業が言うだけでは足りません。リスク管理、文書化、透明性、監督、事故対応の仕組みがあって、はじめて社会はそのAIを一定程度信頼できるようになります。

人間社会でも同じです。医師を信頼できるのは、医師が善人だからだけではありません。資格制度、診療記録、医療倫理、裁判、行政監督、学会、病院の手続きがあるからです。AIもまた、便利な道具であるほど、その背後に制度が必要になります。

「透明性」は万能ではないが、出発点にはなる

AI時代には、透明性という言葉がよく使われます。ただし、透明性を過大評価してはいけません。すべてを公開すれば問題が解決するわけではないからです。

たとえば、AIの仕組みをすべて技術的に説明されたとしても、普通の人がそれを完全に理解できるとは限りません。推薦アルゴリズムや大規模モデルの内部構造は複雑で、専門家であっても全体像をつかむのは簡単ではありません。

それでも、透明性は不要ではありません。むしろ、出発点として欠かせません。なぜなら、何も見えなければ、間違いを指摘することも、責任を問うことも、改善することもできないからです。

大切なのは、透明性を「全部見せること」と単純に考えないことです。利用者にとって必要な透明性、研究者にとって必要な透明性、監督機関にとって必要な透明性は、それぞれ違います。

一般の利用者には、AIが関与していること、広告や推薦の理由、異議申し立ての方法が分かる必要があります。一方で、研究者や監督機関には、社会的リスクを検証できるだけのデータや記録が必要になります。

つまり、透明性とは「すべてを丸裸にすること」ではありません。必要な人が、必要な範囲で、検証できるようにすることです。

情報の自由と偽情報対策は、単純な敵同士ではない

偽情報対策には、もうひとつ難しい問題があります。それは、情報の自由との関係です。

偽情報が危険だからといって、政府が好きなように発言を消せる社会になれば、それは別の危険を生みます。権力に都合の悪い批判まで「偽情報」と呼ばれて消される可能性があるからです。

一方で、自由を理由にして、悪質な操作や大量の偽情報を放置すれば、社会の会話そのものが壊れていきます。選挙、災害、戦争、感染症、金融不安のような場面では、情報環境の混乱が人命や社会秩序に直結することもあります。

ここで必要なのは、自由か規制かという単純な二択ではありません。必要なのは、権力もプラットフォームも、勝手に情報環境を支配できないようにすることです。

そのためには、発言を消すかどうかだけでなく、削除や表示制限の理由を説明すること、不服申し立ての道を用意すること、研究者が検証できること、広告やAI生成コンテンツの出どころを分かりやすくすることが重要になります。

自由を守るためにも、一定のルールが必要になります。ここが逆説的です。何もルールがない状態は、自由な言論空間ではなく、強い者が情報の流れを握る空間になりやすいのです。

国際秩序もまた「信頼の制度」である

この視点は、戦争や国際秩序の問題にもつながります。

国連憲章は、加盟国に対して、他国の領土保全や政治的独立に対する武力による威嚇または武力行使を慎むよう定めています。これは、単なる理想論ではありません。国家同士が最低限の信頼を持つための制度です。

もし強い国が弱い国を自由に侵略できるなら、世界中の国は隣国を信じられなくなります。すると、教育や福祉よりも軍備が優先され、外交よりも威嚇が重くなります。つまり、国際法はきれいごとの飾りではなく、弱い国が安心して存在するための信頼の装置でもあります。

これは、情報空間にも似ています。強いプラットフォームや強い技術企業が、見えない仕組みで人々の判断を動かせるなら、個人や小さなメディアは安心して発言できなくなります。だから、国際秩序にルールが必要なように、デジタル空間にもルールが必要になります。

もちろん、ルールがあるだけで平和になるわけではありません。法律があっても戦争は起きます。規制があっても偽情報は消えません。それでも、ルールがなければ、間違いを正す基準さえ失われます。

AI時代の人間中心とは、AIを使わないことではない

AI時代に人間中心の社会を守るというと、AIを遠ざけることのように聞こえるかもしれません。しかし、それは現実的ではありません。AIはすでに、検索、翻訳、金融、医療、教育、行政、創作、報道の周辺に入り込んでいます。

大切なのは、AIを使うか使わないかではありません。AIを使うときに、人間の尊厳、自由、権利、責任が消えないようにすることです。

AIが判断を助けることはあります。けれども、最終的に誰が責任を持つのかが曖昧になれば、人間は制度の外へ押し出されます。AIが選別し、AIが推薦し、AIが評価し、AIが説明し、人間はその結果を受け入れるだけになる。そうなれば、便利さの中で、人間の主体性は静かに弱っていきます。

だから、AI時代の人間中心とは、AIを拒絶することではありません。AIを使いながらも、人間が異議を唱えられること。説明を求められること。間違いを修正できること。責任者を特定できること。そこにあります。

信頼を取り戻すとは、疑わない社会に戻ることではない

最後に、信頼という言葉について考えたいところです。

信頼を取り戻すというと、昔のように新聞や政府や専門家を素直に信じる社会へ戻ることのように聞こえるかもしれません。しかし、おそらくそれは違います。

AIと偽情報の時代に必要なのは、疑わない社会ではありません。むしろ、健全に疑える社会です。

健全に疑えるとは、何もかも陰謀だと考えることではありません。証拠を見られること。手続きを確認できること。反論できること。第三者が検証できること。間違っていたら修正されること。そういう仕組みがあるから、人は安心して疑うことができます。そして、安心して疑える社会だからこそ、必要なところでは信じることもできるのです。

信頼とは、疑問を持たないことではありません。疑問を持っても壊れない仕組みのことです。

AI時代の民主主義に必要なのは、まさにこの強さです。人間は間違える。AIも間違える。制度も腐敗する。だからこそ、間違いを前提にして、それでも社会が会話を続けられるように設計しなければなりません。

偽情報、アルゴリズム、AI、戦争、国際秩序。これらは別々の問題に見えます。しかし根底では、同じ問いにつながっています。私たちは、何を信じるのか。そして、その信頼を誰かの善意だけに預けず、どのような制度として守るのか。

AI時代の信頼は、心の問題であると同時に、設計の問題でもあります。そこを見落とすと、便利な技術は、人間同士の信頼を広げる道具ではなく、人間から信頼を奪う装置になってしまうのです。

参考資料リンク