ホールに並んだ「偽・誤情報」対策
人工知能（AI）が生成した偽動画を見破るスマホアプリ、電話越しの合成音声を検知する技術、AIが書いた文章に”印”をつける仕組み……。
2026年3月、総務省主催で「偽・誤情報のリスクへ立ち向かう技術の最前線」と題されたイベントが開催された
2026（令和8）年3月16日、東京・大手町のホールに、14の最新技術が並んだ。いずれも、インターネット上の「偽・誤情報」への対策技術で、総務省「偽・誤情報等への対策技術の開発・実証事業」の2025年度版で採択されたもの。その実証を紹介する「成果発信イベント」が開かれ、通信、報道、大学、セキュリティ企業、行政などの関係者が集まった。
特筆すべきは、AIが作った本物と見分けのつかない動画や音声「ディープフェイク」にも対抗し得る、最新の偽・誤情報対策が並んでいたこと。中高生すらAIを日々使いこなす時代、ディープフェイク対策が不可欠になったことを象徴していた。
Googleの生成AI「Gemini」による生成画像。「東京・大手町のオフィス街の上空を、巨大なクジラが静かに泳いでいる。通行人は誰も気づいていない。写真風、夕暮れ」と入力すると数秒で出来た
実態を掴めないディープフェイク被害
ディープフェイクによる「本物らしい偽物」がインターネットを汚染し始めている。
2025（令和7）年、実業家になりすました投資詐欺広告がSNS上で拡散したのは既報の通り。あたかも本人が投資を勧誘しているかのような動画が作られ、一部のユーザーが信じた結果、「経済」詐欺の被害者となった。
牙は「政治」の場にも。元首相の偽動画がSNSに投稿され、数百万回再生された。人命が懸かった「災害」も“ターゲット”となる。
総務省の「情報通信白書（令和6年版）」によると、2024（令和6）年の能登半島地震で、発生から24時間にXへ投稿された救助要請1091件のうち、約1割の104件がデマと推定された。同種の虚偽は2016（平成28）年の熊本地震では1件。その差は、生成AIとSNSの普及を抜きに説明できない。
これらは「さすがに見抜ける」「騙されるひとはいないのでは？」と見る向きもあるだろう。しかし氷山の一角。著名人や災害など耳目を集める話題ばかりがターゲットになっているわけではない。世界を見渡せば、その被害は莫大だ。
米AIセキュリティ企業の調査によると、2025年に世界で記録されたディープフェイク詐欺の被害額は、12.8億ドル（約1900億円）超にのぼる。これは確認された事案に限った数字にすぎない。
認知されずに見過ごされているAI起因の詐欺や世論誘導はどれほどあるのか。被害額はいくらなのか。国や専門機関ですら、全体像を掴むことはできていない。
汚れたインターネット
「誰でも発信できる自由」を与えたインターネットは結果、「誰が発信したのかわからない」世界を生んだ。匿名性は確かにSNSの莫大なトラフィックを生んだが、同時に情報の質は低下した。
生成AIの普及で、テキストのみならず、画像や動画を誰でも簡単に生成できるようになり、もっともらしいコンテンツがあふれた。AIなのか人間なのか、誰が作ったのかわからない時代。ディープフェイクがインターネットの“汚染”に拍車をかけている。
出所：欧州議会調査局による2025年7月のレポート
欧州議会が2025年7月に公表したレポートは、ディープフェイクの爆発的な拡散力に警鐘を鳴らす。同レポートは、2023（令和5）年に約50万件だったディープフェイクの流通数が、25年に800万件へと膨れ上がる見通しを示した。兆候は、すでに表れている。
SEO分析ツールを手がける米Ahrefsが2025年4月の新規Webページ約92万件を調べたところ、74.2%からなんらかのAI生成コンテンツが検出された。
欧州議会のレポートには、欧州警察機構（Europol）の予測も引かれている。「2026年までに、オンラインコンテンツの最大9割がAIによって生成され得る」。その日は、そう遠くない。
AIによる生成物のすべてがディープフェイクや偽・誤情報につながるコンテンツである、とは言わない。だが、生成AIの普及が、インターネット上のディープフェイクや偽・誤情報の増加に関与していることは疑いようがない。
従来型の対策と、その限界
人間の目では本物と見分けることが困難な水準に達しているディープフェイク。なかでも、人間の声を模倣する「音声クローン」の進化は一線を越えた。米経済誌「Fortune」は2025年12月、「音声クローンは、もはや人間が耳で聞き分けることは不可能な水準に達した」とする専門家の指摘を報じている。
その勃興を前に、もはや従来型の「検知・規制・削除」といった対策では追いつかなくなっている。偽物を作る費用や時間が極端に下がり続ける一方、検知や検出にかかる費用・時間は反比例して増え続けるからだ。
ファクトチェック機関による監視は、いわゆるバズを生むような偽・誤情報の拡散について対応できるものの、すべてをチェックするわけにはいかない。AIを用いた検出ツールを使っていても、わずかな改変で回避され、数カ月で陳腐化する。
その「いたちごっこ」の絶望的な非対称性を証明するデータがある。ディープフェイクを収集して評価を行うベンチマーク「Deepfake-Eval-2024」の報告によると、最新のフェイク動画を前にした既存の主要な検出モデルの識別性能は、45〜50%も低下したという。
一方で、「Facebook」「Instagram」を傘下に抱える米メタは2025年1月、投稿内容の正確性を調べる独立した「ファクトチェッカー」の使用を廃止すると発表、波紋を呼んだ。
マーク・ザッカーバーグ最高経営責任者（CEO）は、ブログに投稿した動画の中で、第三者のモデレーターが「政治的に偏りすぎている」とし、「表現の自由をめぐる、我々の原点に戻る」と語った。
人間ベースのファクトチェックは追いつかない。頼みの綱であった検知AIすらも見落とす。「偽物を見つけ削除する」という、私たちが長年頼ってきたインターネットの防御モデルは、その妥当性や正確性に議論も巻き起こっており、「限界」を露呈しつつある。
しかし、悲嘆に暮れることはない。新たな“思想”をもとに、インターネットの”信頼”を再設計する試みが世界中で進んでいるからだ。
「出所」や「来歴」を証明する
偽物を見抜けないのであれば、本物だけを証明すればよい――。コンテンツの出所や発信者が“本物”であることを証明する「真正性証明」の取り組みが、国内外で相次いで立ち上がっている。
冒頭で紹介した成果発信イベントでも展示されていた「Originator Profile(OP)」も、そうした取り組みの一つだ。
OPは慶応義塾大学が監修する日本発の試み。記事や広告、画像や動画といったコンテンツに、改ざんすると“壊れる”電子署名を埋め込む技術で、コンテンツに「OP」マークが付いていれば読者や視聴者は本物と判断することができる。いわば、コンテンツに改ざん不可能な「身分証」を付ける試みである。
注目すべきは、担い手の顔ぶれ。2025年度の実証には、朝日新聞やNHKをはじめ、新聞・放送・通信・IT・出版など、48もの大手メディアが名を連ね、ブラウザの拡張機能を入れた読者や視聴者が、OP技術を導入したサイトやコンテンツを閲覧した際、実際に記事や広告の出所を確かめられることを示した。
「Originator Profile」の公式サイトには、プロジェクトに参画するメディア企業のロゴが多数並ぶ（Originator ProfileのWebサイトより）
この取り組みは、偽・誤情報を発見したり、削除やブロックをしたりする対症療法的な対策とは一線を画す。つまり、偽・誤情報の排除ではなく、本物を証明する側へ重心を移そうという発想だ。
過度な検閲や規制による「言論統制」「表現の自由の侵害」といった問題や批判を避けることもできるこの思想は、海外での大規模な取り組みにも通ずる。
2021（令和3）年に米国のインテル、マイクロソフト、英国の大手半導体企業、アームなどが中心となり創設された「Coalition for Content Provenance and Authenticity」。略して「C2PA」。創設メンバーの 1 社であるアドビの日本法人は、日本語で「コンテンツ来歴および信頼性のための標準化団体」と表現している。
C2PAの取り組みは、改ざん不可能な身分証をコンテンツに付けるという点でOPと共通する。C2PAは、その出所の真正性に加え、なにで撮り、なにで編集し、どんなAIが用いられたのかの「来歴」まで、さまざまな変更情報をコンテンツに付随させることが可能な技術。包囲網は、「ChatGPT」を提供する米オープンAIや、「Gemini」を提供する米グーグルにまで広がっている。
「C2PA」に対応した「LinkedIn」に、ChatGPTで生成した画像を掲載すると、左上に「cr」マークが表示された
C2PAに対応した画像や動画などのコンテンツには「cr（コンテンツ・クレデンシャル）」マークが付き、ユーザーはマークにカーソルを合わせるだけで、「いつ、だれが、なにを使い、どう編集したか」の来歴を確認することができる。そこには、撮影したカメラや編集ソフト、ChatGPTなどの情報も含まれる。
国内のメディア企業や出所証明に重心を置くOPも、C2PAの実装を技術課題として進めており、両者の技術に橋がかかる可能性もある。
信頼の基盤を作り直す
なぜ国内外の著名なIT企業やメディア企業が本物の証明に乗り出しているのか。それは、信頼の基盤そのものを作り直そうとしているからにほかならない。
偽・誤情報の検知に限界が見えた今、まず「なにを担保すべきか」を問い直したとき、行き着いたのが「出所」や「来歴」だった。
「もとは誰が発信したのか、途中で誰が編集したのかわからない」という今の状態を脱し、「証明する」という試みは、インターネットの設計思想そのものの改良にもつながる大きな変化とも言える。
OPもC2PAも課題はある。スクリーンショットや複雑な編集をされると、埋め込まれたメタデータが消えてしまい、内容が本物であっても、出所や来歴を証明できない。発信側、受信側の双方に、技術へ対応させるための仕組みを導入するハードルも高い。
今回、OPは一部ブラウザ向けの拡張機能を提供し、実証実験を進めたが、あらゆるブラウザ、あらゆるアプリに機能付加するのは非現実的であり、ユーザーの負担も大きい。
この対策は有効ではあるが、万能ではない。だからこそ、異なるアプローチも必要となってくる。
本物に”本物だ”と名乗らせる試みの傍ら、AIにも名乗らせる別次元の試みが進行している。
AIの生成物であることを証明
本テーマの過去記事で、生成AIを悪用した事例を紹介した。香港のある企業では、会計担当者がディープフェイクを使ったビデオ会議で、2億香港ドル（約38億円）ものお金を騙し取られた。
音声や動画すら、本物そっくりに瞬時に生成できる時代。それを悪用する者も増えている。ならば、まずはAIの生成物であることを隠せなくする——。
消せない“印”をAI生成物に刻むアプローチが急速に進んでいる。印を付け証明するという点では、先述のOP、C2PAと同じ。だが、人間社会で「誰が責任を持つのか」を担保する真正性の証明と、「AI生成物である」ことを担保するAI証明は、似て非なる。
前者の狙いは、安心感を与えること。対して後者は警戒心を与えることが主な目的だ。それを法的な義務として課す動きもある。
2024年、EUで世界初の包括的なAI規制法「AI Act（AI法）」が成立した（EUのWebサイトより）
2026年8月2日から施行されるEUのAI規制法「AI Act（AI法）」第50条は、生成AI技術の提供者に対し、AI生成物の明示を義務付けている。生成した文章・画像・音声・動画に「電子的な透かし（ウォーターマーク）」や「機械が読み取り可能なメタデータ」を付けることを必須とし、人間が視認できる「ラベル表示」も求めている。
違反した事業者には最大で1500万ユーロ（約24億円）、または全世界売上高の3%という制裁金が科され得るという厳しい内容。義務は原則8月の施行日から適用開始となる。それ以前に「すでに市場に出て流通している生成AI」については猶予期間が設けられているが、それでも2026年12月2日までに準拠しなければならない。
こうした環境変化を背景にプラットフォーム各社も動いた。米メタは2024年初頭から「AI Info」ラベルを導入。YouTubeは2024年3月にAI開示ポリシーを定め、2025年初頭から「現実と見まがう改変・合成コンテンツ」の表示を義務化した。
TikTokでは、AIコンテンツに「AI生成メディアを含む」というタグが付けられている
TikTokは2024年5月、C2PAの仕組みを統合し、他社で作られたAIコンテンツを自動で判別・表示する初の主要プラットフォームとなった。TikTokによれば、こうした複数の手法を合わせ、これまでに13億本を超えるAI生成動画にラベルを付けたという。
規制と運用の両面で進む、AI生成物だと名乗らせる動き。これをグーグルがけん引する「SynthID」が加速させている。
グーグルのAI証明「SynthID」
架空の紙幣の“透かし”をモチーフにGeminiで生成した画像。電子透かしの「SynthID」が埋め込まれている
SynthIDは、AIが画像・文章・音声・動画を生成する瞬間に、AI製であることを示す”透かし”を埋め込む技術。すでに「Gemini」などグーグル傘下の生成AI出力には自動で刻まれており、2026年5月時点で1000億点を超える画像・動画、6万年分に相当する音声に付与されてきた。
この技術はグーグルに閉じていない。テキスト版は2024年にオープンソース化され、半導体大手の米エヌビディアや音声合成の米ElevenLabs、韓国のカカオなどが採用。AIの開発競争でしのぎを削るオープンAIも参画し、C2PAによる来歴情報に加え、SynthIDの透かしも併用し始めた。
一方で、米アップルや、「Claude」を擁する米アンソロピックも、SynthIDではないが、独自の証明方式を模索している。各社が入り乱れているものの、「AI生成物に身分証を持たせる」というトレンド自体は、間違いなく前進している。
AI生成物のすべてが偽・誤情報というわけではない。AIは人類に欠かせない“パートナー”として、今後もあらゆるテキスト・コード・アプリ・画像・動画などを生成し続けるだろう。問題は、悪意ある者が意図的にAI生成物を利用することだ。
上の画像がAI生成物なのかGeminiに聞いたところ、編集過程で「C2PA」の来歴情報は失われたが、「SynthID」を識別し、AIコンテンツであると判断した
AIによる生成物に消えない印をつけるアプローチは、偽・誤情報であることを直接、示すものではない。しかし、AI生成物であることが明らかであれば、そこに紛れた偽・誤情報を前に、ひとは警戒することが可能になる。
AI証明技術にも課題はある。AI証明の透かしが絶対に消えない、破られないという保証はない。AIに身分証を持たせるという発想が真に機能するのは、世界中のAIとプラットフォームが、同じ印を刻み、読む共通基盤を持てたとき。標準化は、まだ途上にある。
それでも、「偽・誤情報を検知する」という不確実で果てしない戦いからいったん目をそらし、「本物を証明する」「AIであることを証明する」というアプローチが進んでいることには、大きな意味がある。
これらの技術が一般化すれば、誰でも容易に「これは本物ではない」「これはAI生成物だ」と確認できるようになる。偽物であることを証明するより、はるかに容易で確実な方法だ。
技術の両輪が回るその外側で、もう一つのまったく異なるアプローチも進んでいる。
狙われる「認知の隙」
ふたたび冒頭で紹介した成果発信イベント。そこで、東京科学大学 環境・社会理工学院の笹原和俊教授が基調講演を務め、偽・誤情報へ触れる手前で典型的な手口を学ばせる「プレバンキング」による事前予防の考え方が重要だと訴えかけた。
プレバンキングは、事後に誤りを訂正する「デバンキング」に対して、事前に“耐性”を付けておく手法。「人間の認知」というレイヤーは技術では覆せない。そこで、従来型の“教育色”が強い手法とは異なるプレバンキングが登場、注目を集めている。
フィッシング、ディープフェイク詐欺、SNS陰謀論、選挙干渉——。これらに共通するのは「認知の隙」を突く設計であること。悪意ある人間は、人間の油断や驚き、弱さや嫌悪など、認知の隙間や歪みを狙って攻撃を仕掛けることが多い。
だからこそ、知識はあっても、自分は引っかからないと思っていても、騙されてしまうひとがあとを絶たない。ならば、隙を突かれた攻撃への免疫を事前に作っておこう、というのが、プレバンキングの基本的な考え方である。
いわば認知への“予防接種”。パンデミックに対抗するような「社会的防衛」の新たな仕組みとして捉えると理解しやすい。効果は実証されている。
グーグル（米アルファベット）の研究機関「Google Jigsaw」と英ケンブリッジ大学らによる研究チームは、感情を煽る言葉や個人攻撃といった偽・誤情報を拡散させる「手口」を解説する短い動画を作った。
約540万人のYouTube利用者に配信したところ、見たひとは、見ていないひとより、操作の手口を見抜く力が高まった――。そうした成果が2022（令和4）年夏、学術誌「Science Advances」で報告された。
続いて、研究チームは22年秋、ウクライナの近隣にあるポーランド、チェコ共和国、スロバキアを対象としたキャンペーンの実施に乗り出す。
難民をめぐる偽・誤情報拡散の手口を解説する動画をYouTube、TikTok、Facebook、Xの広告として配信。対象3カ国の人口の約3分の1にあたる、延べ3800万回の視聴を集め、広告枠を使って”免疫”を配る試みは大きな成果を残した。
AI自身がワクチンを生成
AIで”免疫”を量産することで、偽・誤情報に対抗する手法も研究されている。
米カリフォルニア工科大や英ケンブリッジ大などから成る研究チームは、2024年米大統領選で広まった典型的なデマに対し、生成AIで反論文を即座に量産する枠組みを構築。デマへの反論や手口を解説するテキストベースの“免疫メッセージ”をAIに生成させた。
偽情報が出るたびに人間が手作業で動画を作っていた従来型のプレバンキングに対して、AI型は自動で即座に生成する。研究者らは、新しいウイルス株が出たら即座にワクチンを作り直す「mRNAワクチン」になぞらえた。
注：米カリフォルニア工科大や英ケンブリッジ大などから成る研究チームが2024年10月に公開した論文をもとに編集部が作成
研究チームは2024年10月、米国の登録有権者を対象にしたオンライン実験の結果を論文で公開。AI型の免疫メッセージは、人間が作成する従来型と同等の効果があり、党派関係なく選挙への信頼を高めたとした。
だが、このプレバンキングも「銀の弾丸」ではない。本物であること、AIであることを証明する。そして、事前のワクチン。これら3つの新手法を組み合わせても、なお、偽・誤情報やそれに伴う被害がゼロになることはないだろう。技術は破られるものであり、「いたちごっこ」も「認知の追加接種」も続くに違いない。
偽・誤情報との戦いに、終わりはない。だが、それは戦いを諦める理由にはならない。現実世界でも、ひとを襲う犯罪者やウイルスと戦い続けているのだから。
「偽物」は見抜けるのか――。その問いに、世界はまだ答えを持たない。しかし、外堀は着実に埋まりつつある。
