ＡＩが「ベイルート火の海」映像、戦争にまで及んだフェイクニュース

１週間を締めくくる日曜日の６日夜（現地時間）。米国では５秒間の一つの映像で、ソーシャルメディアのTikTokとＸ（旧ツイッター）が大騒ぎになった。何の説明もなくハッシュタグ（＃）「ベイルート（Beirut）」が付いた動画には、レバノンの首都の中心街が火に覆われた様子が映し出された。夜空は霞んだ灰色の煙が立ち込め、住宅アパートは崩壊寸前だ。ベイルートはまさに壊滅状態だった。

反応はさまざまだったが、誰がこのような惨事を起こしたのか、誰も疑わなかった。１日、レバノン南部に陸軍を投入して地上戦を開始し、先月からベイルートへの空爆を続けてきたイスラエルによるものと思われた。特に、米国のイスラム系市民団体「米イスラム関係評議会（ＣＡＩＲ）」がフォロワー２０万人を超える公式Ｘにこの映像を掲載し、中東戦闘に反対する人々の怒りに火をつけた。米ＣＢＳによると、この映像は数時間で再生回数１千万回を超えたという。

しかし、翌日、「ベイルート火の海」映像はフェイクであることが明らかになった。自称「人工知能（ＡＩ）アーティスト」が市販のＡＩ制作ツールで作ったものだった。当時、イスラエル空軍がベイルート南部郊外を爆撃したのは事実だが、場所も被害規模も大きく異なっていた。たった１日に起こったエピソードだが、波紋は小さくない。中東の衛星テレビ局アルジャジーラは、「偽のＡＩ映像により、レバノンはもとより、中東全体が混乱に陥るところだった」と伝えた。

ＡＩが人の命がかかった戦争にまで混乱をもたらしたこのような現実は、ある程度予見されたことだった。今年２月、チャットＧＰＴの開発会社であるオープンＡＩがプロジェクト名「Sora（ソラ）」というＡＩプログラムを公開した時から、懸念が噴出した。数行もない文章を入力すると、先史時代の絶滅動物であるマンモスが雪原の上を歩く動画があっという間に作成されるシーンは、様々な意味で衝撃的だった。米紙ニューヨーク・タイムズは、ソラの作品を「フォトリアリスティック（photorealistic）」と評し、「今や警告文を付けないと真偽を見分けるのが難しい時代」と懸念した。

１年も経たないうちに、ＡＩの映像技術はさらに大きな進歩を遂げた。今月４日、インスタグラムとフェイスブックを手がけるビックテック「メタ」は、ＡＩプログラム「Movie Gen（ムービー・ジェン）」を発表した。以前のＡＩは映像だけを作成したが、ムービー・ジェンはＡＩで音も作り出す。メタのデモ動画を見ると、ヘビがジャングルを這い進むと、草が擦れる音が鳴る。同紙が似たような映像を作ったところ、音までつけるのに１０分もかからなかったという。メタ側は「ムービー・ジェンの映像に必ず『ＡＩ生成（Generated by AI）』というフレーズを入れる」としたが、同紙の取材結果、これを削除することも可能だった。

物議を醸したベイルートの映像をもう一度見てみよう。英紙ガーディアンがＡＩ専門家に依頼して分析した結果、この映像は建物の間に火が続いているなど、欠陥がかなりあった。ＣＡＩＲの広報担当者は、「確認手続きさえ経れば偽物であることが分かる映像をなぜ掲載したのか」というＣＢＳの質問に、「明らかで単純なミス」としながらも、「イスラエルがレバノンで約２２００人を死なせた犯罪をしたという『本質』は変わらない」と答えた。ソーシャルメディアではまだ本物だと信じる人たちが映像を拡散している。世界は現実と仮想の境界線が曖昧になっているだけではない。何が本質なのか分からないが、信頼と倫理の領域も共に崩れている。