총선 다가오면서 ‘딥페이크’ 게시물 기승

최근 유튜브에 정치인 2명이 올해 4·10총선에 출마하는 후보자를 비난하고 조롱하는 ‘쇼츠’(짧은 길이의 영상)가 올라왔다. 이들은 특정 정당을 비판했다. 영상 속 정치인들의 얼굴과 목소리는 실제 정치인과 똑같았지만 중앙선거관리위원회(선관위)가 확인해 보니 인공지능(AI)을 활용한 딥페이크(이미지 조작)로 드러났다.

딥페이크는 유명 정치인의 발언이나 행동을 조작해 실제 영상이나 이미지처럼 합성하는 기술이다.

19일 선관위에 따르면 선관위는 지난달 29일부터 이날까지 22일간 ‘딥페이크’를 이용한 선거운동을 금지하는 공직선거법을 위반한 게시물 총 129건을 적발했다. 유명 정치인의 발언이나 행동을 조작해 실제 영상이나 이미지처럼 합성한 게시물들이다. 선관위는 “다른 영상에 있는 정치인의 얼굴로 ‘페이스 스와프(Face Swap)’해 영상을 만들고 실제 정치인의 목소리를 입힌 사례 등이 적발됐다”며 “자체 모니터링을 통해 인지한 다음 대부분 삭제 조치했다”고 밝혔다.

국회는 지난해 12월 본회의에서 선거 90일 전부터 ‘딥페이크’를 이용한 선거운동을 금지하는 공직선거법 개정안을 의결했다. 이번 총선은 선거일 90일 전인 지난달 11일이 아니라 법 공포 뒤 한 달이 지난 지난달 29일부터 법이 시행됐다. 법 시행 이후에도 딥페이크 게시물이 적발된 것이다. 딥페이크를 활용한 선거운동을 하면 7년 이하의 징역이나 최고 5000만 원의 벌금형에 처해진다.

정치권에서는 총선에 가까워지면서 딥페이크 게시물이 늘어나면 선관위의 현재 인력으로는 신속 대응이 어려워지는 것 아니냐는 우려가 나온다.

현재 선관위 전담팀 인력은 모니터링반, 인공지능(AI) 감별반, 분석·삭제반, 조사·조치반, 검토 자문단을 포함해 72명이다. 선관위 관계자는 “총선을 앞두고 딥페이크가 폭증할 것에 대비해 AI전담반을 운영하겠다”고 말했다.


조권형기자 buzz@donga.com