隨著議會選舉的臨近，“深度偽造”帖活動猖獗

最近，油管（YouTube）上出現了兩名政界人士指責和嘲弄參加今年4月10日議會選舉的候選人的“短視頻”。他們批評了特定政黨。視頻中政界人士的臉和聲音和真人壹模壹樣，但中央選舉管理委員會確認後發現，這是利用人工智能的“深度偽造”。

“深度偽造”是偽造知名政界人士的講話或行動，合成後像實際視頻和圖像壹樣的技術。

選管委19日透露，從上月29日開始到當天為止，選管委在22天內共揭發了129篇違反公職選舉法禁止利用“深度偽造”進行選舉運動的帖子。選管委表示：“用其他視頻中政界人士的臉‘換臉’後制作視頻，並配上實際政界人士聲音的事例等被揭發。通過自我監控識別後，大部分都采取了刪除措施。”

國會在去年12月的全體會議上表決通過了公職選舉法修正案，禁止從選舉90天前開始利用“深度偽造”進行選舉運動。此次議會選舉不是從選舉日90天前的上個月11日開始，而是從法律公布壹個月後的上個月29日開始實施。法律實施後，“深度偽造”的帖子也被揭發。如果利用“深度偽造”進行選舉運動，將被處以7年以下有期徒刑或最高5000萬韓元的罰款。

政界擔心，隨著議會選舉的臨近，如果“深度偽造”的帖子增加，以選管委目前的人力很難迅速應對。

目前，選管委專門團隊的人力包括監測班、人工智能鑒別班、分析刪除班、調查措施班、討論咨詢團等72人。選管委相關人士表示：“在議會選舉即將到來之際，為應對‘深度偽造’的暴增，將運營人工智能專門班。”


趙權亨記者 buzz@donga.com