総選挙が近づくにつれて「ディープフェイク」投稿急増

最近、ユーチューブに政治家２人が今年４月の総選挙に出馬する候補を非難して嘲笑する「ショート」動画がアップされた。彼らは特定の政党を批判した。映像の中の政治家の顔と声は実際の政治家と同じだったが、中央選挙管理委員会が確認してみると、人工知能（ＡＩ）を活用したディープフェイクであることが分かった。

ディープフェイクは、人物の動画や音声を人工的に合成する技術。

１９日、選管によると、先月２９日から同日までの２２日間、「ディープフェイク」を利用した選挙運動を禁止する公職選挙法に違反した投稿１２９件を摘発した。有名政治家の動画や音声を合成して本物のように見せかけた投稿だ。選管は「別の動画にある政治家の顔で『フェイススワップ（Face Swap）』して映像を作成し、政治家の音声をつけた事例などが摘発された」とし、「モニタリングを通じて認知した後、ほとんど削除した」と明らかにした。

国会は昨年１２月、本会議で選挙９０日前から「ディープフェイク」を利用した選挙運動を禁止する公職選挙法改正案を議決した。今回の総選挙は、選挙日の９０日前の先月１１日ではなく、法公布から１ヵ月後の先月２９日から施行された。法施行後もディープフェイク投稿が摘発されたのだ。ディープフェイクを活用した選挙運動をすると、７年以下の懲役または最高５千万ウォンの罰金刑に処せられる。

政界では、総選挙が近づくにつれ、ディープフェイク投稿が増えれば、選管の現在の人員では迅速な対応が難しくなるのではないかと懸念している。

現在、選管の担当チームの人員は、モニタリング班、人工知能（ＡＩ）鑑別班、分析・削除班、調査・措置班、検討諮問団を含め７２人。選管関係者は、「総選挙を控えてディープフェイクが急増することに備え、ＡＩ担当班を運営する」と話した。


チョ・グォンヒョン記者 buzz@donga.com