時論・創論・複眼
偽情報をどう防ぐか 外交や技術の専門家に聞く
桒原響子氏/藤代裕之氏/越前功氏
能登半島地震から世界各地の選挙までインターネット上の偽情報や誤情報による被害が止まらない。生成AI（人工知能）などフェイクを生み出す技術は巧妙化する一方、政府や企業による対策は始まったばかりだ。外交やメディアの視点も合わせて聞いた。
◇ ◇ ◇
政府も市民も「自分事」に 日本国際問題研究所研究員 桒原響子氏
くわはら・きょうこ 外務省外務事務官を経て現職。22年からカナダのマクドナルド・ローリエ研究所にも在籍し、偽情報を分析
日本は欧米や台湾などに比べて、偽情報が自国の民主主義にとって脅威となった経験が少ない。英語やフランス語と異なり、日本語には特殊な言語障壁があるからだ。しかし生成AIなどの飛躍的な技術革新が進んでいくと、日本語の障壁は突破されると考えるべきだ。
新型コロナウイルス禍に広がった偽情報の数々は日本にとって一つの警鐘となった。ウクライナ侵攻に関連するロシアの偽情報キャンペーンも契機だった。台湾有事の可能性を認識し、日本への影響を考えた人も増えただろう。
中国による対日情報戦の最新事例は原発処理水の海洋放出にまつわるものだ。日本の周辺国に対して、特定の考え方やネガティブな価値観を植え付けるプロパガンダも一部で展開された。ただ日本側の反論や情報戦対策もあった。定量的に測ることはできないが、中国の効果は限定的だったとみる。
偽情報の拡散で狙われやすいのが、社会の根底にある潜在的な分断の要素だ。台湾の研究機関によると、総統選前の2021年から23年6月までに広がった米台関係の再考を促すような「疑米論」の半数以上は、中国発ではなく台湾発だったという。
日本社会における潜在的な分断となりうる要素には沖縄が挙げられる。在日米軍への反感を日米離反につなげるなどの戦略的な意図もあるのではないか。23年に習近平（シー・ジンピン）国家主席が公に琉球王国との歴史的な関係に言及し、台湾問題を念頭に日本を強くけん制した。
SNSを悪用した選挙介入が表面化した16年の米大統領選以降、欧米は偽情報対策に注力してきた。
日本は22年ごろから本格的に動き出し、数年単位の後れを取っている。しかも国内では偽情報をどう監視し正しい情報を発信するかが議論の中心で、これを政府が主導している構図だ。
重要なのは社会全体でのアプローチだ。ファクトチェック団体やシンクタンク、関係企業を含めた市民社会が一丸となって対策を練る必要がある。市民一人ひとりのメディアリテラシーが高まれば、偽情報への社会のレジリエンス（回復力）は強固となる。
例えば台湾では、政府が対策を進める中で市民社会も独自にメディアリテラシーを高めている。ファクトチェック文化が浸透していたり、IT（情報技術）企業によるサービスが充実していたりする。
政府主導で偽情報を定義し統制すると、多様な視点や議論が必要な民主主義における「表現の自由」が守れなくなる恐れもある。情報空間を過度に監視すれば検閲行為とも捉えられかねない。民主主義の発展との難しいバランスが求められる。
市民社会を巻き込まない政府主導の対策は、国民にとって偽情報の脅威がまるで「他人事」のように聞こえてしまうリスクがある。これまで大きな被害を受けていない日本だからこそ、「自分事」に引き付けて対策を考えるべきだ。民間セクターと連携しながら議論できる環境を整備していく必要がある。
◇ ◇ ◇
米ITに代わる基盤を 法政大学教授 藤代裕之氏
ふじしろ・ひろゆき 徳島新聞などを経て現職。専門はソーシャルメディア。編著書に「フェイクニュースの生態系」
能登半島地震発生後にSNSで多発した偽情報を見て確信したことがある。X（旧ツイッター）、フェイスブック、ユーチューブなど大手企業が運営するプラットフォームに、公共性のある情報インフラとしての役割は期待できないということだ。
2016年の熊本地震と18年の西日本豪雨では、番地や部屋番号など詳細な住所情報を含んだ救助要請はほぼ全て本物だった。つまりその頃まで、SNSは電話が通じないような状況下で情報を伝えるインフラとして一定の役割を果たしていた。
ところが能登地震では、架空の町名や番地を含む虚偽の救助要請がX上に多く発信された。さらにそれらを中東や南アジアを中心とする多数の海外アカウントがコピーして拡散した。本物が混ざっているかもしれないので、地元の消防は偽の救助要請についても位置確認などの対応を取らざるを得なかった。SNSの存在が一刻を争う救助活動の妨げになった。
偽情報まみれになったSNSはもはや、人命がかかるような重要な情報の伝達基盤として使い物にならないことがはっきりしたといえる。
虚偽の書き込みの大部分は、閲覧数に応じて広告収入を得るのが目的だ。表示されさえすればよいので書き込みの中身はどうでもよい。検索トレンド上位にあるキーワードと適当な文言や写真との組み合わせや、他の書き込みのコピーで用が足りる。
特にXが閲覧数に応じて広告収入を分配するプログラムを23年に始めて以降、閲覧稼ぎのみを目的とする乱雑な書き込みが急増した。質の悪いアテンションエコノミー（注目が金銭的価値を持つ経済圏）が膨張している。
これまで政府や民間の偽情報への取り組みは、大手プラットフォーム企業への対策要請、ファクトチェック活動の担い手増強、利用者のリテラシー強化が柱だった。現下の偽情報や詐欺広告の氾濫は、人手とカネをかけた偽情報対策をやる意志が米IT（情報技術）企業にはないことを証明している。
彼らにいくら対策を要請しても無駄だろうし、ファクトチェックなどの努力も焼け石に水となる。日本人は米IT企業のプラットフォームを、真面目な情報流通基盤として扱うことをやめるべきだ。
幸い日本では、大手報道機関に対する不信が米国のように深刻化していない。おおむね中立の立場で事実関係を検証した情報の流通の担い手とみなされている。この状態が続いているうちに、政府も企業も米国発プラットフォームに代わる信頼可能なネット情報基盤を確立すべきだ。
たとえばLINEヤフーは政府や有識者会議などの要請に比較的誠意を持って対応している。新聞やテレビの多くも、取材や検証を経た情報を伝える能力をかろうじて維持している。それらを組み合わせたネット情報基盤は機能しうる。生成AIによる偽情報氾濫への備えにもなる。政府も民間も自分たちの双方向情報基盤を育む方向に発想を変えるときだ。
◇ ◇ ◇
作らせない技術も開発 国立情報学研究所教授 越前功氏
えちぜん・いさお 1997年東工大院修了。専門は情報セキュリティー。同研究所シンセティックメディア国際研究センター長も併任
AIで偽の画像や音声、動画を作成するディープフェイクは2018年ごろから普及しはじめたが、技術力や手法は急速に進化している。AIがオリジナルの素材を改ざんするのにとどまらない。プロンプト（命令文）で架空の人物やシーンを生み出したり、発話に合わせて著名人に同じセリフをしゃべらせたりと類型も様々だ。
フェイク生成ツールに加えて生成したコンテンツやプロンプトの情報も氾濫しており、誰もが手を染めることができる。オバマ元米大統領ら著名人の改ざんは有名だが、偽の動画でオンラインの本人認証（eKYC）を悪用され、他人に口座を開設される可能性もある。一般人でもフェイクによる被害を受けうる。
近い将来、人の目でディープフェイクの真偽を判定するのはほぼ不可能になるだろう。不確実な情報が氾濫する「インフォデミック」への技術的な対策が必要だ。
私たちはこれまで、口や目の周囲のノイズなどから顔の改ざんの有無を判定し、顔のどの部分がどの技術で改ざんされているか推定できる技術を発表してきた。判定技術を契約企業に有償提供する取り組みも行っている。
判定技術は様々な機関が開発を進めているが、研究用に得られる素材は本物もフェイクも限られている。一方で攻撃者側はあらゆる手段で素材を集め、技術を高めている。研究者が事業者から必要なデータを得られる産学連携の仕組みが重要となる。
ただ将来的に判定技術の社会実装が進んでも、SNS上の膨大なコンテンツの海から全てのフェイクを一つ一つ検知するのは非現実的だ。プラットフォーマー側の大幅なコスト負担に加え、そもそも真偽を判定するための基準を設定し、継続的に更新することも難しい。
判定技術の透明性も求められる。しかし基準などを詳細に開示すれば、攻撃者に裏をかかれて判定を迂回する手法が生まれてしまう。
したがってフェイクの判定のみならず、そもそもフェイクを作らせないようにする「サイバーワクチン」の開発も必須だと考える。
具体的に研究しているのは、人物の映像や画像に電子透かしのようなノイズを入れることで、顔や人体の「切り抜き」ができなくなる技術だ。改ざんがしづらくなることで、フェイク攻撃に必要なコストが大幅に上がる。
さらに、顔の画像が改ざんされると、AIが元の顔へとすぐに復元できる技術の開発も進めている。こうした技術がSNSに実装されれば、偽情報の拡散を抑止できるだけでなく、ユーザーが顔画像を不適切に使われないよう保護できるメリットがある。
フェイクが横行する背景には、SNSで注目を集めることが経済的利益につながるアテンションエコノミーがある。プラットフォーム企業の責任は重く、ユーザーのリテラシー任せとせず、技術による抑止の普及を積極的に進めるべきだろう。
◇ ◇ ◇
〈アンカー〉放置は民主主義損なう
偽情報の氾濫が進むと何が真実か分からなくなる。すると客観的な事実について党派を超えた共通認識が成立しなくなる。「正気」の多数意見を形成できなくなり、民主主義が機能不全に陥る。
トランプ氏が大手報道機関をフェイクニュース呼ばわりし、SNS上に荒唐無稽なウソを大量にばらまき始めてから、米国ではまさにそんな現象が起きている。ロシアや中国は今も、日本を含む西側各国の民主主義社会を動揺させるようなSNS上の情報工作に余念がない。
大手IT企業は議会や社会の非難にもかかわらず収益優先で、真実よりも刺激的な偽情報の方が格段に速く広く拡散するアルゴリズムを変えようとしない。そこに生成AIの登場だ。放置すれば虚偽情報問題は悪化するだろう。社会全体で手を打ちたい。