ＡＩを使った性的画像との戦争、手を打たなければ災いになる

「嘘と戦う最も簡単な道は、真実と共にすることだ」

素敵な言葉だが、ほろ苦い。１１日（現地時間）、米人気歌手テイラー・スウィフトさんがハリス副大統領を支持して投稿したインスタグラムの言葉は素晴らしかった。ただ一つ、人工知能（ＡＩ）ディープフェイクによる自身の偽の写真に対する言及は後味が悪かった。真実で嘘に立ち向かおう。確かに正しい言葉だが、巨大な壁にぶつかった現実が実感された。

最近、国内でも問題になっているＡＩディープフェイクの性的画像が恐ろしいのは、このような「真偽の境界」が崩壊しているという点だ。ＡＩ編集技術で別の顔を合成してわいせつ物を作る瞬間、真偽の有無にかかわらず、誰かが恐ろしい被害を受ける。すでに拡散した後に事実が明らかになったところで、受けた傷はどう補償するのか。英紙インディペンデントは、このようなＡＩの悪用を「どこの家にもあるトースターが核爆弾を作る恐るべき兵器庫になるようなもの」と表現した。　

その程度だろうか。先月、ドイツのある情報技術（ＩＴ）オンラインマガジンによると、ＡＩディープフェイクの性的画像の制作は犯罪に使われることを恐れて具体的な方法は記述しないのが意味をなさないほどだ。誰でもアクセス可能なオープンソースのＡＩモデルだけをコンピューターに入れた後、「適当な」フレーズを入力すれば終わりだ。結果物を見たＩＴ専門家は、「ぎこちない点もあるが、よく見てみないと分からないほど」とし、「特別な専門知識がなくても作ることができるというのが衝撃的」と話した。

最近、米国でＡＩの性的画像制作容疑で逮捕された人を見てもそうだ。ペンタゴンで勤務する軍人から田舎の現役教師、１０代前半の中学生まで....。ただ部屋の片隅でキーボードを叩くだけで悪質な犯罪者になった。米紙シカゴ・トリビューンは、「彼らは、日常で挨拶を交わす周囲の人から面識のない海外のインフルエンサーまで相手を選ばなかった」と伝えた。

状況が深刻になると、欧米の政府や立法機関などは総力戦に乗り出したようだ。米カリフォルニア州議会は今月初め、ＡＩディープフェイクで児童の性的画像を制作・配布・所持した者をすべて処罰できる法案を可決した。マイクロソフト（ＭＳ）やオープンＡＩなどは１１日、ホワイトハウスでディープフェイク性的画像防止のためにＡＩ学習データからヌード画像を除去することを誓約した。欧州連合（ＥＵ）も最近、開発されたＡＩモデルが性的画像を量産して個人保護規定に違反したか全面調査に着手した。米紙ワシントン・ポストは、「規制が技術に追いつけない現実を考慮すると遅きに失した感があるが、全面的な努力がなければＡＩは深刻な災いとなるだろう」と規制を支持した。

「晩時之歎（時機を逸して嘆くこと）」だが、韓国にも朗報が届いた。１９日、児童、青少年対象のＡＩディープフェイクの性的画像などに関する犯罪の処罰を強化し、被害者を支援する法案が与野党合意で国会常任委員会を通過した。実は昨年、ほぼ同じ法案が発議されたが注目されずに廃棄されたことを思えば、遅すぎる対応だ。しかし、遅れたからといって諦めることはできない。米ＮＢＣニュースは、ホワイトハウスの誓約式を報道し、「ＡＩディープフェイク性的画像戦争は人間の尊厳がかかった問題だ」と伝えた。税金で運営される国家機関が国民の尊厳のために戦わなければ、存在する理由があるだろうか。