中国やロシアが日本に世論操作を仕掛けている――。ここ数年、よく語られていることです。

例えば、2025年7月の参院選の際に、山本一郎さんがnoteに書いた記事「参政党を支えたのはロシア製ボットによる反政府プロパガンダ」は注目を集めました。

主要メディアでは、2026年2月に日経「中国系の400アカウント、Xで「反高市工作」　衆院選」、3月に読売「中国が大規模な認知戦、昨年の高市首相答弁後に対日批判の投稿急増…読売・サカナＡＩが共同分析」など。

海外からの世論操作を意味する「影響工作」「認知戦」などの言葉は、国会でも頻繁に聞かれるようになりました。

「偽情報や影響工作等により他国の世論や意思決定に影響を及ぼすとともに、自らに都合のいい社会状況や安全保障環境の構築を狙って認知戦が行われている」（2026年7月16日、参院外交防衛委、小泉進次郎防衛相）

そんな中で、その風潮に疑問を呈する記事が公開されました。

8月27、28日、スローニュースが公開したライター・石井大智さんの記事「『外国botが日本の世論を操作』は本当か？ Xが公開したアルゴリズムのコードで検証してみた・前編」と「『外国botの世論操作』をXのアルゴリズムのコードで検証、実は報道こそが影響を与えていないか・後編」です。

前編では、Xが8月13日に公開したアルゴリズムのコードについて解説しています。結論は明快です。

海外由来のボットが大量に存在し、お互いに投稿をシェアし合うとしても、それが一般の日本人ユーザーに広く届くわけではない。

後編では、米国・ポーランド・香港での計6127人を対象にした研究を紹介しています。いずれも、影響工作の舞台になったと報じられた国・地域です。

「Prominent misinformation interventions reduce misperceptions but increase scepticism（認知度が高い誤情報対策は、誤解を減らす一方で懐疑心を強める）」

調査で、ファクトチェックやメディアリテラシーや偽情報に関する報道は、誤った情報を信じ込ませない効果がある一方で、正しい情報の信ぴょう性まで損なうという結果が出ました。

世論操作への対策をしているつもりが、実は正しい情報の信頼性を下げてしまう。結果として、より世論操作が効きやすい社会になる恐れすらあります。

世論操作に対する日本の制度は、ここ数年で急速に変化しています。

2022年に国家安全保障戦略に「認知領域における情報戦」への対応強化が明記され、2026年7月13日には選挙SNS規制に関する改正法が成立し、7月31日には国家情報局が発足しました。

対策を強めるタイミングだからこそ、「影響工作はどれだけの影響があるのか」「対策は効果的か」という石井さんの問いは重要です。

「限定的」という結論は共有されている

実は前者の問いに対して、多くの専門家が石井さんと同じ見解を示しています。

海外からの影響工作は「存在」する。しかし、広く「到達」はしておらず、「影響」は限られている。

よく引用されるのは、石井さんも前編で言及している2023年の論文です。

「Exposure to the Russian Internet Research Agency foreign influence campaign on Twitter in the 2016 US election and its relationship to attitudes and voting behavior（2016年の米国大統領選挙におけるTwitter上でのロシアのインターネット・リサーチ・エージェンシーによる外国影響工作への接触と、それが人々の態度および投票行動に及ぼす影響）」

2016年の米大統領選で、ロシアの影響工作部隊の投稿を目にしたのは、ネットユーザーのごく一部に集中（上位1％で全体の70%）。しかも、態度や投票行動との有意な関係は見られませんでした。

この結論は、特に意外ではありません。

私自身も2025年12月に「高市発言後に急増した日中めぐる偽情報　動画を改ざんして『琉球独立』煽る認知戦」という記事を書きました。

その中で、高市早苗首相の台湾をめぐる発言後、高市批判や沖縄の独立を煽る中国由来の投稿が急増した一方で、日本国内での拡散は限定的だったことに触れています。

ここで、さらなる疑問が生じます。

海外からの世論操作として有名になった2016年の米国大統領選でも、少なくともTwitter上の接触については、態度や投票行動との有意な関係は見つからなかったという研究結果が出ている。

なのになぜ、欧州を中心に多くの国々が真剣に対策に取り組んでいるのでしょうか。

欧州の影響工作報告書の内容と対策

ロシアからの影響工作の対策に熱心な欧州の対外行動庁（EEAS）の第4次FIMI脅威報告（2026年3月、FIMI=外国による情報操作と干渉）を見てみます。

報告書は2025年に確認できただけで、FIMI該当事案が540件、約1万500のチャンネルやサイトがFIMIを拡散するために動員されたと記録しています。ロシアが29％、中国が6％、65％はどの国のものか未帰属です。

規模は大きいですが、これも影響力の話ではありません。報告書はAIで強化されたFIMIについて書いた第1章でこう述べています。

「脅威アクターは質よりも量を優先しているため、自然なエンゲージメントが低水準にとどまり、全体的な影響は限定的となっている」

ここまで読むと、対策の根拠は薄いように見えます。

しかし、欧州は2025年11月に欧州民主主義シールドを打ち出し、2026年2月には欧州民主主義レジリエンスセンターを始動させました。いずれも海外からの影響工作から民主主義を守ることを打ち出しています。

なぜ、影響が証明されていないのに動くのか。

結果が出てからでは取り返しがつかない

FIMIについて、EEASは報告書で次のように定義しています。

「価値観、手続き、政治プロセスに脅威を与えたり、悪影響を及ぼす可能性のある、主に違法ではない行動パターンを指す。こうした活動は操作的な性格を持ち、国家または非国家主体によって、自国の領土内外にいるその代理人を含め、意図的かつ協調的に行われるものである」

「悪影響を及ぼす可能性のある」という句が、立証済みの影響を要件にしないことを明示しています。

影響工作によって、本来ならば勝てなかったはずの政党が勝ったら。社会の分断が民主主義を維持するのが難しいほどに深まったら。取り返しがつきません。

だからこそ、悪影響を及ぼす可能性がある段階でも対処しようとしています。

気候変動は、証拠が固まる前に動いた

「影響の証拠が固まるまで対策を待つべきか」という問いに、先に答えを出した分野があります。気候変動です。

1990年、気候変動に関する政府間パネル（IPCC）第1次評価報告書は、こう書いていました。

「観測データから温室効果の増大を明確に検出できるようになるのは、あと10年以上先になる可能性が高い」（IPCC第1次評価報告30周年）

人間活動が温暖化を引き起こしていると科学的に断言できる段階ではなかった。それでも1992年、各国は国連気候変動枠組条約に署名しました。条約の第3条第3項は、こう定めています。

「深刻な、または不可逆的な損害のおそれがある場合には、十分な科学的確実性がないことを、対策を先延ばしにする理由にしてはならない」

証拠は、対策とともに固まっていきました。数年ごとの報告では、文言がより明確になり、2021年の第6次報告ではこう書かれました。

「人間の影響が大気、海洋、及び陸域を温暖化させてきたことには疑う余地がない」

日本に足りないのは「測る仕組み」

気候変動と情報操作は、もちろん同じではありません。しかし、この歴史から学べる教訓があります。

対策と証拠の収集を並走させるということです。

日本の認知戦の影響を測った研究は、欧米や、中国からの影響工作の最前線である台湾などと比べて不足しています。

私は、証拠が完全に固まる前に対策が動くこと自体は否定しません。問題は、気候変動がそうだったように、動きながら測る仕組みがあるか、そして国が「何が真実か」を決める形になっていないか、です。

私は5~6月にかけて1週間、ドイツを訪問し、現地の専門家や政府の担当者と対話しました。コラムで書いたように、「真理省はいらない」という言葉を聞きました。政府が何が真実かを決める社会は、民主主義とは言えません。

外国の干渉は民主主義への脅威です。しかし、それに対抗するために民主主義の価値を手放せば、本末転倒です。

日本の対策がこの一線を守れるか。影響や対策の研究とともに、政府の動きも注視していく必要があります。

注目の話題

朝日新聞
SNS1日2時間に制限　子どもの依存訴訟、メタが2.8兆円で和解

SNS大手Metaが、子どもの依存対策を怠ったとして起こされた訴訟で、最大180億ドル（約2兆8600億円）の和解金を支払うことで合意しました。テック企業による和解金として過去最大規模です。

Metaは条件付きながら、インスタグラムとフェイスブックで1日2時間の利用制限、深夜0時から午前6時までの利用禁止、登校時間帯の通知音消音などの施策を導入します。YouTubeやTikTokなど競合アプリも同様の措置を講じるべきだと主張しています。

以下は古田の私見です。世界的に子どもへのSNS規制は驚くほどのスピードで進んでいます。それだけ、悪影響が強いとの懸念が高まっています。これも、科学的にはっきりとした結論が出る前に、深刻な影響が出てからでは遅いからという措置だとも言えるでしょう。

ニュースレターは、アルゴリズムによって爆発的に拡散するYouTubeなどと違い、人の繋がりによってじっくりと広がっていきます（だから好き。2010年代前半の古き良きソーシャルネットワークを思い出す）。

「職場で紹介した」という嬉しい報告もありました。ぜひ、周りの方にお勧めし、SubstackのNotesという機能やSNSなどでも拡散していただけると嬉しいです。そして、「拡散したよ」とメッセージをいただけると励みになります！

さて、本日のニュースレターの項目は以下の3つです。

• 「プレバンキング」とは何か。その効果と限界。

• 注目の話題「Googleが開発中のAI検証ツール」

• 今週のおすすめ 「日本進出担当者に聞く、Substackの実力と今後」

8月19日、私が編集長を務める日本ファクトチェックセンター（JFC）は、サイトのメニューに「プレバンキング」の項目を新設しました(「JFCはプレバンキングと詐欺対策を強化します　サイトのメニューも変更」)。同じ日、最初のプレバンキング記事「『地震雲』や『人工地震』は本当？ 根拠のない情報に惑わされないために」を掲載しました。

プレバンキングとは何か。日本でも注目が高まっている今だからこそ、先行する海外の実践例やその効果と限界を整理します。

予防的な手法としての「プレバンキング」

ファクトチェックは、すでに広がっている真偽不明の情報を検証し、「誤り」「不正確」などと判定する作業です。

検証を始める前に、そして検証している間も、偽・誤情報は拡散を続ける。その情報を受け入れてしまった人は、あとからファクトチェック記事を見ても、偽・誤情報の方を信じ続ける持続効果があると指摘されています。

この「後追い」「効果が限定的」というファクトチェックの弱点を補うのが「プレバンキング」です。名前の由来は、ファクトチェックと同じような意味で使われる「デバンキング」から来ています。

後追いになるデバンキング（ファクトチェック）とは逆に、よく使われる偽・誤情報の手口を事前に示すことで、実際に見たときに「これはあの手口かも知れない」と気づいてもらう手法です。

実は、JFCは以前からプレバンキングという名前は使わずとも、予防的な記事を書いていました。

2023年7月、福島第一原発の処理水放出に関する記事「福島第一原発の処理水と汚染水の違いは何？海洋放出は危険？」）。2026年8月には地震に関してよくある偽・誤情報を解説しました（「災害時に広がる偽情報5つの類型」）。

ファクトチェックと並ぶ両輪の位置づけ

総務省の「デジタル空間における情報流通の健全性確保の在り方に関する検討会」は、2024年9月のとりまとめで「プレバンキングとデバンキングの両輪による対応の重要性」に言及しています。

2026年3月16日に開かれた総務省「インターネット上の偽・誤情報等への対策技術の開発・実証事業」の成果発信イベントでは、東京科学大学の笹原和俊教授が基調講演で、デバンキングを「対症療法（手術・治療）」、プレバンキングを「予防接種（ワクチン）」と対比し、両方を取り入れた多層的な対策が必要だと訴えました。

情報操作の6つの手口「DEPICT操作」

偽・誤情報問題に取り組んできた笹原教授はケンブリッジ大のサンダー・ヴァン・ダー・リンデン教授の著書『Foolproof』の邦訳『フェイクニュースの免疫学ーー信じたくなる心理と虚偽の構造』（みすず書房）の監訳を担当しています。

私はJFCで「話題の書『フェイクニュースの免疫学』から学ぶ情報のワクチンの重要性 ファクトチェックだけではなぜ足りないのか」（5月8日）という書評を書きました。

そこで語られているのが、情報操作の6つの手口「DEPICT操作」です。

実際に偽・誤情報を分類してみると、きれいに6分類できるわけではなく、複数の手口をあわせたようなものが多いです。

例えば、災害時の「外国人が窃盗に来ている」という情報は、「こんなときに泥棒なんて」という感情操作と「外国人の被害にあう日本人」という二極化の２つの手口の合わせ技です。投稿が被災地住民を装っていれば、なりすましでもあります。

海外はどこまで進んでいるか

日本では注目され始めたばかりの手法です。朝日、産経、毎日、読売のデータベースで調べても「プレバンキング」という言葉はまだ7件。

海外では研究の積み重ねがあります。理論的には1960年代から。弱毒化した反論に先に触れておくと、本物の説得に対する抵抗力がつくという「接種理論」がもととなっています。

ゲームで「作る側」を体験させる

この理論を偽情報対策に応用したのが、ヴァン・ダー・リンデン教授らによるチームです。

2018年に公開したオンラインゲーム「Bad News」は、プレイヤー自身が偽ニュースの発信者になり、なりすましや感情操作、陰謀論といった手口を使ってフォロワーを増やしていくという設計でした。

作る側を一度体験すると、同じ手口に出会ったときに見抜きやすくなる。書評記事でも触れた手口ベースのプレバンキングです。

YouTube広告で540万人に

2022年にはGoogleと協力し、感情的な言葉づかいと偽の二択という2つの手口を解説する短い動画をYouTube広告として流し、米国の約540万人に届けました。

ケンブリッジ大学の紹介記事「How to ‘inoculate’ millions against misinformation on social media」によると、30秒以上視聴した人は約100万人。その後の設問に答えた2万2632人で比べると、動画を見た群は手口を見抜ける割合が平均で約5％高くなりました。

インスタグラムで5カ月後も持続

より最近の実地研究については、今年1月のHarvard Kennedy School Misinformation Review「Prebunking misinformation techniques in social media feeds: Results from an Instagram field study」。

英国の18〜34歳にインスタグラムのストーリー広告として動画を流しました。誕生月で処置群と対照群を分けました。感情操作を正しく見抜いた割合は処置群59.6％、対照群38.2％で、差は約21ポイント。5カ月後の追跡でも22ポイントの差が残っていたと報告しています。

ファクトチェック団体の間で進む実践

ファクトチェック団体でも、実践が進んでいます。

EFCSNは「Prebunking at Scale」プロジェクトで、欧州各国の団体と協力し、編集部向けの方法論を2025年11月に公開しました。

ポイントは2つ。一つは「個別の言説ではなく、全体像を見ること」。例えば、以下のような事例です。

• 個別の言説：「地下駐車場に遺体がある」「大きな穴に遺体を埋めていた」

• 複数の言説に流れる物語（ナラティブ）：「当局は災害の死者数を隠している」

• 用いられている手口：「陰謀論」「信用を貶める」

個別の言説を個別に検証していっても、モグラ叩きとなり、切りがありません。そうではなくて、全体としてどのような物語（ナラティブ）が語られているのかを見て、そこで用いられている手口も示すことが効果的な対策に繋がります。

もう一つのポイントは「早期発見」です。

ある一定の物語がSNS上で目立ち始めた段階でいち早く検知・検証し、その手口も含めて解説する記事や動画を出す。後追いのファクトチェックと予防のプレバンキングの両方の良い面を取り入れた戦術と言えるでしょう。

これは非常に効果的です。問題はいかに早く検知できるか。EFCSNではイギリスのFull FactとスペインのMaldita.esが中心となってSNSを横断監視するAIツールを開発しています。

限界と、警戒すべきこと

プレバンキングについては、インドでの「Bad News」再検証で真偽の見分けが改善しなかったという研究や、より現実的な条件での実験では効果が消えたという研究もあります。万能というわけではないようです。

効果の研究とは別に、実務の側から見える限界を3つ書いておきます。

第一に、必要な人に届きにくい。実験では広告枠も活用していますが、潤沢な資金が必要ですし、それでも見てもらえるとは限りません。

第二に、政治的な道具になりうる。「これはプレバンキング」と言いながら、自分に不都合な情報を先に「偽情報の手口」と決めつける使い方をする人が出てきます。

第三に、日本での検証が薄い。接種研究の大半は欧米中心に実施されています。環境が違えば、同じように効く保証はありません。

それでも、JFCが踏み込む理由

限界を並べたうえで、私がプレバンキングに踏み込む理由を書きます。

ファクトチェックとプレバンキングは、対立するものではありません。手口ベースのプレバンキングを作るには、手口の蓄積が要ります。JFCが3年間で積み上げた検証記事は、どの手口が、どの場面で、どう繰り返されるかの記録です。

「地震雲」の記事で示した4つの手口、無関係な現象の因果関係のこじつけ、HAARPのような実在の用語で科学的に見せる装い、衝撃的な画像、不安や怒りを煽る言葉は、すべて過去の検証から抽出したものです。

検証の蓄積がなければ、接種する「弱毒化した手口」を作れない。ファクトチェックという対症療法で手口を積み上げ、プレバンキングという予防にもつなげる。私が「車の両輪」と書いたのは、そういう意味です。

注目の話題

Nieman Lab(米国)／2026年8月19日
Google’s new AI tool helps fact-checkers investigate AI fakes（Googleの新たなAIツールがファクトチェッカーのAIフェイク検証を助ける)

Google DeepMindが、画像検証を自動化するAIツール「Backstory」を実験している。Geminiを基盤に、AI生成の判定、加工の痕跡の検出、画像検索による拡散経路の追跡、C2PA（来歴情報）やSynthID(電子透かし）の確認を一度に実行し、結果をレポートにまとめる機能がある。

現在は数千人の記者・OSINT専門家・司書・研究者に無償提供中。画像の検証が50分から3分に短縮されると評価する声も。一方、対象は静止画のみ（動画は検討中）、検索エンジンが未収集の画像やTikTok・WhatsApp等は対象外、検証の精度にも限界がある。

以下、古田の私見です。このツールが優れているのは、技術的にAI生成の痕跡を調べるだけでなく、初出や拡散経路なども調べることで、ファクトチェッカーがこれまで人力でやっていた検証作業を補助的に支えるところです。

技術的にAI痕跡を調べるだけのツールには現状では限界があることは前々回のレター「私は、イラン空爆の映像を検証するのをあきらめた」で説明しました。拡散経路を追う手法は、単純ですが強力です。ファクトチェッカーのフィードバックを得ながら開発する手法も参考にしていくべきでしょう。

今週のおすすめ

このニュースレターを読んでくださっているみなさんの多くは、Substackを知っているはず。そう、このニュースレター配信サービスです。米国では有料ニュースレターで自分のメディアを築く書き手が次々と現れ、その代名詞になったサービスですが、今年、ついに日本市場の責任者が着任しました。

その伊藤王樹さん（Head of Partnerships, Substack Japan）が登壇するオンラインセミナーを、8月27日（木）の夜に開きます。NHK報道ディレクターからByteDance Japan創業第一号メンバー、TikTokアジア太平洋パートナーシップ統括を経てSubstackという、日本のメディア環境の変化を体現している方です。

テーマは、バズが優先されるアテンション・エコノミーのなかで、専門知識や取材に裏打ちされた仕事をどう持続させるか。書き手だけでなく、読み手にとってもどこでどう有益な情報を得るか考える時間になると思います。

主催は私が理事のD-JEDI（デジタル・ジャーナリスト育成機構）で、当日の聞き手は私。20時から1時間、オンライン配信で、アーカイブ付き2,000円（D-JEDI会員は無料）。ちょっと宣伝でした。

セミナー申込みはこちらをクリック

メディアに勤めている人だけでなく、情報収集やその確認にAIを使う人が増えています。どこまで信頼できるのか。みなさんの関心事でしょう。

結論から書きます。現状では、AIは「調査助手」にはなる。だが「事実の判定者」にはなれない。

ファクトチェック編集長の失敗

まず、私自身の失敗から書きます。

今年2月、衆院選の党首討論をファクトチェックしたとき、検証する論点の抽出にGoogleのAIツール「NotebookLM」（現在はGemini Notebookに改称）を使いました。

JFCにはAIガイドラインがあり、AIの出力は人間が必ず確認すると決めています。実際にAIが当初抽出した15の論点について確認をしていました。ところが、検証に偏りが出ないように改めて抽出をかけて付け足した論点の中に一つだけ、「確認したつもり」のままで記事にした箇所がありました。

それが、実際には討論会に存在しない党首発言でした。外部からの指摘で気づき、訂正を出しました（JFC「各党党首の発言の真偽は 討論会をまとめて検証【#衆院選ファクトチェック】」の訂正文）。

ルールを作った編集長が、ルールから逸脱したという恥ずかしい話です。NotebookLMは一般的な生成AIと異なり、参照するように指示した資料の中から正確にデータを抽出することで知られています。それでもAIによる捏造「ハルシネーション（幻覚）」は発生しました。

世界中の報道機関が失敗している

失敗したのは私だけではありません。世界中の報道機関がAIによる大失敗を繰り返しています。

2023年10月、Microsoftは提携メディアからの配信記事にAIを活用して自動で記事の内容に関するクイズをつける機能を公開しました。ガーディアンが配信した記事についたクイズは「この女性の死因は？殺人／事故／自殺」。記事は学校で頭部に重傷を負って亡くなった21歳のコーチに関するものでした。クイズは炎上、ガーディアンの抗議を受けてMicrosoftはクイズ機能を停止しました。

2025年3月、ロサンゼルス・タイムズが、オピニオン記事に多様な視点を付け加えるために、AIで反対意見を自動生成する機能を導入。白人至上主義団体「KKK」に関する記事に対して、KKKに融和的と取られるコメントをつけて批判され、取り下げました。

2025年5月、シカゴ・サンタイムズが載せた「夏の読書リスト」は、推薦15冊のうち10冊が実在しない本でした。外部のコンテンツ提供者がAIで作り、編集部は中身を確認していませんでした。

AIによる失敗に共通するもの

これらの事例と私の失敗には共通点があります。

第一に、人間の眼が入っていなかった。プラットフォームの新機能、自動化、外注ーー。人間による編集の目が届かなかった場所で、問題が起こっています。

第二に、批判されるのは「書いた人」「出したメディア」です。読者はAIの仕業とは思っていませんし、AIだと知っても、監督していた人やメディアを批判します。

第三に、「正確さ」だけでは防げない。MSNのクイズは、事実としては何一つ間違っていません。問題は、人が亡くなっている記事に、死因を聞くようなクイズをつけていいのかという倫理的な判断です。

なぜ「判定」は任せられないのか

AIによるディープフェイクをAIに判定させるのはどうでしょう。世界中のファクトチェッカーが年に1度集まる「GlobalFact」で6月、AFPで検証技術を統括するDenis Teyssou氏が話した例を紹介します。

今年3月、ネタニヤフ首相の会見動画に「右手の指が6本ある、AI製の偽物だ」という指摘が広がりました。Teyssou氏がGeminiに真偽を問うと、答えは「デジタル痕跡があり、ディープフェイクの可能性が高い」でした。

「AI生成ではなく、（デジタル痕跡は）動画の強い圧縮によるものでは」と指摘し、高画質版と併せて確認するよう指示すると、Geminiは「本物です」と判定を改めました。動画は本物で、圧縮による劣化がAI生成の痕跡と似ていただけでした。

AIは質問の聞き方によって、簡単に回答を変えます。同じ質問に対してすら、答えを変えます。

英国のFull Factは、同じモデルに同じプロンプトを30日間入力し続ける検証をしました。「英国の保健相は誰か。出典も示せ」という単純な質問に、ある日は政府公式サイトを引いた的確な回答、別の日は氏名は正しいのに出典がスパムサイト。回答の品質はバラバラでした。

AI回答の45％に重大な問題

公共メディアでつくる欧州放送連合（EBU）がBBC主導で実施した国際調査（2025年5〜6月）では、衝撃的な結果が出ています。18カ国22の公共メディアの記者がAIアシスタントの回答3000件超を評価したところ、45%に少なくとも一つの重大な問題がありました。

人間もミスをします。1人に情報を要約させても、それが完璧に正確でないからこそ、メディアは複数の目でチェックします。改善が進んでいるとは言え、かなりの確率で間違えるAIに調査や確認を丸投げするのは危険すぎます。

AIは便利な道具であると同時に、その回答自体が検証の対象になりました。

得意なことをやらせる

では使うなという話か。逆です。AIを使っていないファクトチェック団体は、もうほぼ存在しないと言っていいでしょう。問題は「何をやらせるか」です。

実は報道機関の自動化は、生成AI以前から成功しています。

AP通信は2014年、決算記事の自動生成を始め、四半期あたりの本数が約300本から約4500本に増えると報告していました。ロイターは2018年、市場データを常時監視し、異常を検知して記者に通知する仕組みを導入しました。

GlobalFact2026で紹介された事例も、AIに得意なことをやらせていました。

インドのThe Quintは詐欺の手口をデータベース化し、WhatsAppに接続した「Scamguard」を作りました。不審なメッセージを転送すると、AIが見分け方と公的窓口を返すシステムです。

Code for Africaは、プラットフォームの監視をすり抜けるネット隠語をAIで抽出して辞書化し、データサイエンティスト3〜4人分の作業を置き換えました。

エストニアのDelfiは、停電トラブルの原因についてAIとの対話で仮説を立て、関係企業を絞り込み、記者が取材して裏を取り、記事にしました。

ファクトチェックの工程で言えば、こうなります。拡散の検知は（ある程度は）任せられる。資料の収集・照合も（ある程度は）任せられる。検証対象の選定と記事化は、原案と下書きまで。一次情報の裏取りと真偽の判定は、人間が握る。

AIと付き合う5つの実務ルール

ファクトチェッカーでなくても、AIに何かを尋ねる場面は毎日あります。失敗しないために最低限守るべきなのは以下の5つです。

1. AIの出力は「仮説」として扱う AIの出力は、これから確かめる仮説として扱う。そのまま記事に転記しない。

2. AIツールの判定を根拠にしない 検出ツールもチャットボットも、複数ツールで判定が違ったり、聞き方を変えるだけで答えが変わります。

3. 出典URLは必ず開く もっともらしい出典が存在しないか、スパムサイトのこともあります。内容が違うこともよくあります。

4. すべて人間が最終チェックする 出典URLや結論部分はもちろん、そもそもの前提が間違っていないか、過程も含めてすべてチェックする。

5. 倫理面や社会慣習も考慮する 内容は正確でも、倫理的に、社会慣習的に問題がある事例は多数存在する。これこそ、人間のチェックが不可欠。

AIは優秀な「調査助手」です。いろんな仕事を手伝ってくれる。COMMON FACTのデザイン、ロゴ、様々な設定なども、Claudeに作ってもらいました。

その分、人間が最終的な確認をする手間は、むしろ増えると覚悟しましょう。

この手紙について

COMMON FACTは、ファクトチェックで判定を出せるような話ではなくとも、放ってはおけない話を書くための個人のニュースレターです。「AIとどう付き合うか」は、真偽のレーティングでは答えの出ない、その代表例です。

感想も反論も、「こういった話題も取り上げてほしい」というご希望も歓迎です。このメールへの返信か、コメント欄へ。すべて私が読ませていただきます。

ニュースレターへの登録がまだの方は、こちらへ！

古田大輔／ジャーナリスト・ファクトチェッカー

注目の話題

Euronews（欧州）／2026年8月11日
EU compliance, delivered globally: Anthropic to watermark Claude’s output worldwide（EU規制、世界で実施——Anthropic、Claudeの出力に世界中で電子透かし）

EUのAI法50条(透明性義務)が8月2日に適用を開始した。Anthropicは同日以降に公開したClaudeのモデルが生成する文章に、人間には読めないけれど機械可読の電子透かしを埋め込むと発表した。テキストそのものに人間には認識できないパターンを埋め込み、また、ファイルにメタデータを付ける。

ただし、それらの「印」が検出されてもClaudeがそのコンテンツを処理した可能性を示すにとどまり、Claudeが書いたことの確認にはならない。校正や翻訳にAIを使っただけの文章に印がついたり、逆にAIで作った文章を編集したり、ごく短い文や旧モデルの出力では検出されなかったりする可能性もある。また、形式変換や再保存、スクショでも失われるかもしれない。

以下は、古田の私見です。日本にはAI生成物の表示を義務づける法律がありません。それでもEU法に合わせた実装が世界一律で降りてくるため、日本の新モデルの利用者にも同じ印が適用されます。

しかし、「印がなければAI生成ではない」とは言えず、そこから先の判定は、やはり人間がやらざるを得ません。

※本ニュースレターの制作では、調査と草稿作成の補助に生成AI（ClaudeとGemini）を使用しています。事実確認と最終判断は筆者が実施しています。

生成AIによってつくる画像や動画、いわゆる「ディープフェイク」は、その質も量も人間が見分けられる限界を超えつつあります。

熊本地震でもイオンモールの爆発映像にディープフェイクが紛れ込んでいると話題になりました。注目を集めるニュースだけでなく、例えば、可愛らしい動物の動画、恋愛もののショートドラマなど、あらゆる分野にAI映像が溢れています。

ディープフェイク時代をどう生きるべきか。

去年と今年で、ステージが変わった

ディープフェイクはどれだけ増えているのか。感覚ではなく数字で言えます。

2025年参院選では日本ファクトチェックセンター（JFC）や報道機関による検証記事が約240本あり、ディープフェイクを対象にしたものは1件でした。一方で、2026年衆院選では約100本中16本。割合にして1%未満から16%ほどに激増しています。

海外はさらにひどい状況です。アメリカとイスラエルのイランへの攻撃が始まって以降、ソーシャルメディア上には、空爆の映像が次々と投稿されました。そして、その多くはディープフェイクと思われるものでした。

ニューヨーク・タイムズ（NYT）は、開戦からわずか2週間に110本超ものAI生成コンテンツを特定しました。それでも、氷山の一角ではないかと思えるほどのディープフェイクの大拡散でした。

人間の目は、当てにならない

数が増えただけではなく、AIの進化によってディープフェイクの質も向上しました。

日本で最初に有名になったディープフェイクは2022年、「静岡での水害をドローンで空撮した」という画像でしょう。

一見、それっぽいですが、検証に慣れたファクトチェッカーであれば、水面に映る影と地上の構造物が一致しない、電線や電柱がない、樹木が多すぎるなど、不自然な点をいくつも見つけることができます（JFC「ドローンで撮影された静岡県の災害画像？ AIディープフェイクの見分け方」）

しかし、いまのディープフェイクは見分けるのが困難になっています。2024年時点で56本の論文をまとめたメタ分析では、8万6155人分のデータで人間の判別精度は55.5%。当てずっぽうの水準と変わりません。

2026年のいまはさらに進化しています。私自身、イラン空爆の映像に関して、ディープフェイクかどうかを個別に検証することを諦めました。数が多すぎるし、正直に言って、わからないものが増えたからです。

ディープフェイク検証で世界的に有名なHany Farid氏は、NYTの記事でこう語っています。

Farid氏「技術が進化しすぎている。暗い気持ちになるよ」

妻「あなたが見ても見分けられなくなったから？」

Farid氏「誰にも見分けられなくなったからだ」

ツールも信用できない

「目には目を」ということで、AIでAIを検出することはできないのか？

JFCも複数の検出ツールを使いますが、ツールによって結果に大きな開きが出ます。人間の眼で見て明らかにディープフェイクなのに「AI生成の確率7％」などと全く違う判定を出すこともあります。

これはJFCがディープフェイクだと断定した動画を、ファクトチェッカーもよく利用する「InVID」というツールで検証した結果です。旗のデザインなど人間の眼で見れば明らかにおかしな描写が多いのに、ツールでは見抜けませんでした（JFC「ベネズエラの人々がトランプ大統領に感謝する動画? AI生成の特徴」）

AIで作ったのにAIではないと判定する「偽陰性」、AIで作ってないのにAIだと判定する「偽陽性」ーー。新型コロナウイルスのときに話題になったことが、AI検証ツールでも発生します。

同じ画像を同じAIに判定させたのに、質問の仕方によって「ディープフェイク」「本物」と判定をコロコロと変えることすらあります。そもそも、判定の出し方が「パーセント」では「AI生成の確率95％」と言われても、「95％という判定だからAIで間違いない」とファクトチェッカーが断定するわけにはいきません。

法律は追いついていない

AIで作ったり、改変したりした画像や動画には「AI」とラベルを貼ればいいではないか、という議論はあります。実際にEUでは8月2日から、AIの透明性を担保する義務について定めたAI法50条の適用が始まりました。

業務としてコンテンツを出す側は視認性の高いラベルを表示し、生成ツールの提供者は生成する画像や動画に機械で判読可能なマークを入れる。これらに違反した場合の制裁金は、最大1500万ユーロか全世界売上高の3％のいずれか高い方です。

運用が本格化するのはこれからですが、一定の効果はあるでしょう。ただし、ラベルがついていないからと言って、本当にAIで生成・改変されていないかはわかりません。メタデータはSNSへのアップで剥がされ、スクリーンショットや圧縮などでも失われます。

それに、AIを悪用する人間は最初から相手を騙すつもりですから、ラベルを貼らないでしょう。

韓国、中国などでも規制ルールの作成が相次いでいます。日本では表示義務を定めたルールはまだありません。その是非はここでは論じませんが、ディープフェイクによる被害のさらなる拡大が見込まれる中で、対策の強化は必要でしょう。

ディープフェイク時代をどう生きるか

世界中から年に1回、ファクトチェッカーが集まるGlobalFactは今年、6月にリトアニアで開かれました。世界最大規模のファクトチェックチームを擁するAFP MediaLab R&D Editorial ManagerのDenis Teyssou氏は講演でこう語りました。

「この部屋にいる人たちは、AIが生成した画像よりも、本物の画像をずっと多く見てきました。次世代は、AIが生成した画像をより多く目にすることになるでしょう」

人間の眼でも、検証ツールでも見極められない大量のディープフェイクの中でどう生きていくか。法整備も重要ですが、それすら完璧ではありませんし、現状に追いついていません。

だからこそ、私たちは「画像や動画が拡散しているとしても、それが本物とは限らない」と常に意識しておかなくてはなりません。

その画像や動画や音声の発信源はどこか。信頼に値するか。公的機関や専門機関や報道機関などから、関連する情報は出ているか。客観的な状況や科学的な根拠と矛盾していないか。

逆に、「これはAIだ」という主張に対しても「それは本当にAIなのか、何を根拠に言っているのか」と考える。

こういった用心深さが必要とされる時代です。

この手紙について

COMMON FACTは、ファクトチェックで判定を出せるような話ではなくとも、放ってはおけない話を書くための個人のニュースレターです。

感想も反論も、「こういった話題も取り上げてほしい」というご希望も歓迎です。このメールへの返信か、コメント欄へ。すべて私が読ませていただきます。

ニュースレターへの登録がまだの方は、こちらへ！

古田大輔／ジャーナリスト・ファクトチェッカー

注目の話題、この1本

Reuters Institute for the Study of Journalism（英国）／2026年8月4日
New York Times' Malachy Browne on the future of visual investigations in the age of AI
ニューヨーク・タイムズのマラキー・ブラウンが語る、AI時代のビジュアル調査報道

世界的に評価が高いニューヨーク・タイムズのビジュアル調査報道チームを共同で立ち上げたMalachy Browne氏へのインタビュー記事です。2011年の「アラブの春」でSNS上に拡散した動画を検証する仕事から出発し、動画に映っている背景や衛星画像などから撮影場所や日時を特定する技術を確立していきました。

AIについては、映像、とりわけ音声の検証が極めて困難になると見ています。同時に調査報道の道具としてもフル活用。ガザ南部の衛星画像をAIで網羅的に調べ、安全地帯のはずの区域で2000ポンド爆弾によるクレーターを500以上検出しました。ただし、最終的には一つ一つ、記者が確認したそうです。

ディープフェイクで真実が捻じ曲げられ、隠される時代だからこそ、報道機関による地道な検証と事実の確定作業はこれまで以上の価値を持っています。

熊本の地震後、Xで「怪しい外国人3人組」を見たという目撃談が広がっています。災害のたびに拡散する「外国人窃盗団が被災地に来る」と示唆しています。

こういう投稿に対し、「差別だ」という批判や「デマだ」という声も出ます。しかし、ファクトチェックするのは難しい。

確かめにくい情報が確かめられないままに広がれば、既成事実のように受け止められていきます。その結果、何が起こりうるのか。

今すぐ登録する

広がった「目撃談」は

2026年7月28日、熊本県で最大震度7の地震が発生。直後からSNSでは大量の偽情報が拡散しました。人工地震説、実在しない住所を記した偽の救助要請、なりすまし詐欺ーー。

私が編集長を務める日本ファクトチェックセンター（JFC）も「熊本の地震による雲? 『雲は前兆にならない』と専門家が否定」と「日本赤十字社を騙る『なりすましメール』に注意」の2本の記事を出しています。

外国人にまつわる投稿には、例えば、以下のようなものがあります。

• 「外国人窃盗グループが被災地に向かった」

• 「イオンモール熊本の爆発は外国人が引火させた」

• 「怪しい外国人を見かけた」

これら以外にも、外国人への敵意を煽るような投稿は散見されます。過去の災害でも、このような情報は何度も拡散していますが、実は、JFCではほとんど検証記事を出せていません。

そこには大きな壁があります。

なぜ検証しにくいのか

「人工地震だ」という主張なら、専門家の見解を示せば終わります。科学的にありえない話だからです。JFCは「地震のたびに拡散する「人工地震説」や「地震予知」は何が間違っているのか 専門家が解説」を公開しています。

ところが「外国人窃盗団が来る」は違います。これは予告や警告や目撃談です。客観的・科学的に検証できるものではありません。

検証するとしたら、以下の作業が必要になります。

• 「来る」を否定するには、「来ない」を証明しなければならない。すべての可能性を打ち消す「悪魔の証明」が必要になります。

• 「見た」を否定するには、投稿者が「見ていない」と示さなければならない。しかし、本人は本当に何かを見たのかもしれない。

最悪なのは、否定した直後に外国籍の容疑者が一人でも逮捕されれば、ファクトチェックのほうが嘘つき扱いされるかもしれないことです。

これは仮定の話ではありません。

2024年、能登で起きたこと

2024年の能登半島地震の直後、「外国人窃盗団が能登半島に集結している」という情報が広がりました。

私はこれをJFC「災害時に広がる偽情報5つの類型」（2024年1月5日）で「根拠のない犯罪情報」として記録しました。その後、このような投稿の拡散を追ったのが、朝日新聞「能登の「外国人窃盗」デマ、どう広がった　SNSで避難所の会話変質」（2024年2月23日）です。

この記事によれば、地震後すぐに広まった情報は「中国人がマイクロバスで来て、窃盗をしている」。1月3日の夜、被災地の集落住民の間でLINEで伝わりました。

しかし、朝日新聞が2月上旬に石川県警に取材したところ、その集落がある自治体で、こうした犯罪は確認されていないという回答でした。

朝日新聞の記者は発信元をたどり、最初に投稿したと見られる地元消防団の分団長を務める40代男性を見つけます。男性は取材に対し、避難所で中年の女性から「中国人がマイクロバスで窃盗をしているらしい。情報を流して巡回してほしい」と頼まれたと話しています。

もし、本当だったらーー。男性はその情報を集落の住民で作ったLINEグループに送りました。

悪意ではなく、責任感から出た「警告」。朝日新聞の記事はデマには一定のパターンがあると警鐘を鳴らしています。

しかし、ここから別の話が始まります。

2024年3月5日、石川・愛知両県警が、輪島市の被災住宅から指輪やブランデーなどを盗んだとして3人を逮捕しました。名古屋市の無職の男（19）、ブラジル国籍の派遣社員の男（18）、中国籍の無職の少女（16）でした。

このニュースは、今回の熊本地震で「外国人窃盗団が被災地に来るから気をつけろ」という投稿の根拠として繰り返し引用されています。

デマか事実か、その分かれ目は

「外国籍の窃盗犯が存在した」ことで、「外国人窃盗団が集結しているという発災直後の情報が正しかった」と言えるでしょうか。

まず、発災後に拡散した「外国人窃盗団が集結」という情報は、その時点では根拠が書かれておらず、裏付けを欠いていました。前述のとおり、「中国人がマイクロバスで来て窃盗をしている」という当初の情報について、石川県警はその自治体でそうした犯罪を確認していないと答えています。

拡散した情報が主張していたのは、外国人の集団が組織的に被災地へ向かっているという、地域全体への警戒を促す内容でした。

実際に摘発されたのは、愛知県から輪島市へ来た10代3人組の窃盗グループです。3人のうち1人は日本人であり、「外国人が」という括りは、この事件の全体像を説明していません。1件の摘発だけでは、「集結」という主張を裏付けてはいません。

一方で、災害時に窃盗は起きます。外国籍の容疑者が検挙されることもあります。「被災地で犯罪は起きない」「外国人は犯罪をしない」と言えば、それは過去の事例を見れば、誤りと言えるでしょう。

拡散の手口を見る

「外国人窃盗団が集まっている」というような投稿の真偽を確かめるのは難しくても、別の角度から見ることはできます。この投稿は、どう拡散しているのか。

近年、偽・誤情報対策として注目されているのが「プレバンキング」です。拡散した偽情報を検証するデバンキング（ファクトチェック）に対して、「こういう偽情報が拡散するから気をつけて」と予防する。

ワクチンと同じ発想で、偽情報の手口にあらかじめ触れておけば、本物に出会ったときに抗体が働く、という考え方です。

社会心理学者サンダー・ヴァン・ダー・リンデンの『フェイクニュースの免疫学　信じたくなる心理と虚偽の構造』（みすず書房）で詳しく紹介しています。JFCでも「話題の書『フェイクニュースの免疫学』から学ぶ情報のワクチンの重要性　ファクトチェックだけではなぜ足りないのか」で解説しました。

ヴァン・ダー・リンデンらは、世界中の偽情報でテーマを問わず共通する6つの手口を紹介しています。

• Discrediting（信用毀損）

• Emotion（感情操作）

• Polarization（二極化）

• Impersonation（なりすまし）

• Conspiracy（陰謀思考）

• Trolling（荒らし）

今回の熊本でも、これらの手法を観測できます。人工地震説は「陰謀思考」。日本赤十字社を騙る詐欺メール、被災者を装った偽救助要請は「なりすまし」です。

外国人への敵意を煽る投稿は、「感情操作」と「二極化」の組み合わせです。

感情操作と二極化の効果

「感情操作」とは、その情報を見る人の怒りや不安を掻き立て、冷静に判断する余裕を奪う手法です。

「外国人窃盗団が被災地に向かった」と聞けば、こんな大変なときに火事場泥棒をするなんて、と怒りが湧くでしょう。あなた自身は外国人に差別感情を持っていないとしても、それは自然な心の動きです。

ただし、その情報が事実とは限らない。あなたが善意からその情報をシェアしたとしても、結果的に、外国人への差別感情を煽ることになります。

「二極化」も同じ文脈にあります。「我々（日本人）」を傷つけに「彼ら（外国人）」がやってくるという図式は、物事を単純化し、怒りや不安の対象を明確化する効果があります。

犯罪を犯す外国人はいます。犯罪を犯す日本人がいるのと同じように。

能登半島の事例では、逮捕されたのは日本人と外国人の3人組でした。しかし、それがまるで外国人窃盗団が集結していたことの証拠のように扱われました。

感情操作と二極化は、103年前の日本で恐ろしい惨事を引き起こしています。

大震災の報告書が伝える教訓

1923年の関東大震災では「朝鮮人が暴動を起こした」「井戸に毒を入れた」といった根拠のない噂によって、疑われた人たちへの大規模な殺傷事件が起きました。

内閣府中央防災会議・災害教訓の継承に関する専門調査会が2009年に公表した「1923 関東大震災報告書【第2編】」によれば、偽・誤情報をきっかけにした殺傷事件の犠牲者は、震災による死者約10万5000人の1〜数％に及ぶと推計しています。

発災当日から「朝鮮人や社会主義者が放火している」という根拠のない噂が出始め、翌日には「昨夜の火災は不逞鮮人による放火もしくは爆弾の投擲による」「横浜方面から朝鮮人の集団が殺傷、略奪、放火しながら東京方面に襲来」など、より具体的な形となって拡散。警察からの通達や新聞記事としても広がり、各地で殺害事件が発生しました。

JFCでは「関東大震災をめぐる「朝鮮人が暴動を起こした」「虐殺はなかった」などの言説を検証　【ファクトチェックまとめ】」で詳しく解説しています。

被災したばかりの不安の中で「朝鮮人が放火している」と聞けば、感情が刺激され、二極化の中で「敵だ」と認識されてしまう。構造は変わっていません。

根拠のない噂が検証されないままに広がり、事実のように扱われたときに、何が起こりうるのか。報告書は、103年前の教訓を私たちに伝えています。

この手紙（ニュースレター）について

Common Fact は、私が個人で書くニュースレターです。毎週配信します。

私が編集長を務めるJFCは、客観的・科学的に検証可能な言説を検証するファクトチェックを通じて、情報環境の改善に取り組んでいます。一方で、情報環境の混乱の原因は偽・誤情報だけでなく、その対策もファクトチェックだけではありません。

圧倒的な存在となったプラットフォームやAIを始めとするテクノロジー、メディアのあり方、公的機関の役割、海外からの影響工作など、情報環境をめぐって考えるべきことは無数にあります。

情報は私たちの知的・精神的な健康を養う食べ物です。情報は自由民主主義を支える土台でもあります。

この「手紙」を通じて、みなさんとより良い社会を作っていくための方策を考えていきたいと思います。

古田大輔

世界の話題、この1本

対象はGoogle、Meta、TikTok、Naverなど、1日100万人以上が使う9社。プラットフォームは係争中の言説をファクトチェック団体に照会できるが、国際ファクトチェックネットワーク（IFCN）認証団体に限られる。

プラットフォームに偽情報の判断を任せてよいのか。IFCN認証団体が法的な枠組みに入ることの是非は。今回の法改正で偽情報が減るとしても、その対価として何が失われるのかを見る必要があります。言論の自由やプラットフォームの権力、ファクトチェック団体の独立性・公正性をめぐる議論は続くでしょう。