가짜 윤석열·이재명이 나온다면? 딥페이크 손 놓은 국회[윤다빈의 세계 속 K정치]

내년 11월 대선을 앞둔 미국은 인공지능(AI)을 이용한 허위 정보로 정치적 혼란을 겪고 있습니다. 올해 1월에는 조 바이든 대통령이 트랜스젠더 여성을 향해 “당신은 결코 진짜 여자가 될 수 없다”고 혐오 발언을 내뱉는 영상이 소셜미디어(SNS)에 퍼졌습니다. 진보적 가치를 강조하는 바이든 정부로서는 지지층 이탈 악재가 될 수 있는 조작 영상이었습니다.

3월에는 트럼프 전 대통령의 ‘성관계 입막음 의혹’ 재판을 앞두고 그가 경찰에 연행되는 조작된 이미지가 SNS에 빠르게 유포됐습니다. AI로 만들어진 가짜 이미지였지만 트럼프 전 대통령의 체포 소식에 보수층은 결집했습니다. 트럼프 대선 캠프는 공식 사이트에서 가짜 머그샷(범인 식별용 얼굴 사진) 이미지가 인쇄된 티셔츠를 개당 36달러(약 4만7000원)에 판매했습니다.

올해 3월 트럼프 전 대통령이 한 무리의 경찰에게 진압당하거나 이들의 추격을 피해 도로를 질주하는 가짜 사진이 소셜미디어에서 확산됐다. 트위터 캡처

‘챗GPT의 아버지’, ‘미스터 챗GPT’로 불리는 오픈AI 샘 올트먼 CEO는 올해 5월 “대선이 가까워지고 기술이 점차 발전하는 상황을 고려했을 때 AI가 여론을 조작하고 거짓 정보를 제공할 수 있다는 점이 심각하게 우려된다”고 했습니다.

물론 허위 정보 범람이 미국만의 문제는 아닙니다. 올해 5월 치러진 튀르키예 대선에서 에르도안 대통령은 쿠르드족 분리주의 무장단체 쿠르디스탄 노동자당(PKK)이 야당 후보를 지지하는 가짜 영상을 지지자들에게 공유했습니다. 민족주의 노선을 앞세우던 에르도안 대통령은 “이걸 보라. 매우 중요하다”며 지지자를 자극했습니다.

에르도안은 상대 야당 후보를 소수 민족인 쿠르드족과 밀착된 인물로 꾸준히 공격했습니다. K정치에서 여야가 상대 당을 ‘종북세력’, ‘토착왜구’로 낙인찍는 것과 유사한 방식이었습니다. 쿠르드족과의 관계를 의심받았던 야당 후보는 결국 대선에서 패했고, 에르도안은 30년 장기 집권의 문을 열었습니다.

● 내년 총선서 예고된 ‘AI 딥페이크’ 혼란

지난달 15일 한 유튜브 채널에는 일본 기자가 대한민국 축구스타인 이강인의 프랑스 파리생제르맹(PSG) 구단 이적을 두고 축구선수 킬리안 음바페와 설전을 벌인 영상이 올라왔습니다. 일본 기자가 이강인 영입을 ‘마케팅용’이라고 비하하자 이를 음바페가 반박했고, 국내 누리꾼들은 “오늘부터 음바페가 우리 형”이라고 찬양했습니다.

프랑스 유명 축구선수 음바페가 이강인 선수를 무시하는 질문을 한 일본 기자와 설전을 벌이는 내용의 조작 영상. 유튜브 캡처

해당 영상은 누적 조회수 약 1200만회를 기록하면서 큰 화제를 모았습니다. 하지만 이는 실제 영상에 AI로 음성을 입힌 조작본이었습니다. 그런데도 기성 언론에서 이 영상이 허위임을 지적하는 데 무려 14일의 시간이 걸렸고, 많은 이들이 영상 내용을 사실로 믿었습니다.

K정치에서도 허위 정보의 위험은 예견돼 있습니다. 지난해 6·1 지방선거를 앞두고 윤석열 대통령이 국민의힘 남해군수 후보를 지지하는 ‘딥페이크(AI로 영상, 음성 등을 변조한 가짜 정보) 영상’이 등장해 논란이 됐습니다.

해당 영상에는 국민의힘이 대선에서 개발한 ‘AI 윤석열’이 등장해 “윤석열 정부는 여러분과 함께 살기 좋은 남해군을 만들겠습니다”고 말합니다. AI 윤석열 옆엔 ‘박영일 남해군수와 함께합니다!’라는 문구를 적었습니다. 이는 국민의힘 지지자로 추정되는 인물이 만든 허위 정보였습니다.

지난해 6·1 지방선거를 앞두고 윤석열 대통령이 국민의힘 후보를 지지하는 ‘딥페이크’ 영상이 등장했다. 해당 영상은 남해군수로 출마한 박영일 후보 지지자가 만든 것으로 추정된다. 더불어민주당 박지현 전 비상대책위원장 페이스북 캡처

미국이나 유럽에 비해 팩트체크 문화가 약한 우리나라는 허위 정보에 매우 취약합니다. 전문가들은 우리나라의 SNS 발달, 진영 간 양극화로 인해 AI 기술을 악용한 거짓 뉴스가 범람할 가능성이 크다고 지적합니다.

고려대 정보보호대학원 임종인 석좌교수는 “우리나라에서는 선거를 앞두고 딥페이크나 생성형 AI에 의한 허위 정보가 미국이나 유럽에 비해 많을 것”이라며 “북한의 공작이나 이념에 사로잡힌 시민단체들이 수단과 방법을 가리지 않고 뛰어들 가능성도 있기 때문”이라고 지적했습니다.

딥페이크 수준은 점점 고도화되고 있습니다. 더 이상 조악한 합성 영상이 아니라 전문가도 허위 정보임을 구별하기 어려운 수준에 이르렀습니다. 임 교수는 “오픈 AI가 만든 가짜 영상 판독 프로그램의 정확도가 26% 수준”이라며 “내년 총선을 앞두고는 위조 여부를 판별하기 어려운 가짜 영상이 더 많아질 것”이라고 했습니다.

챗GPT, 구글 바드 등 생성형 AI에 의한 허위 선거운동 가능성도 매우 큽니다. 누구나 마음만 먹으면 생성형 AI를 이용해 언론 기사, 여론조사 요약문, 설문지를 만들어 SNS에 뿌릴 수 있고, 거짓 정보는 삽시간에 확산됩니다.

● AI발 민주주의 위협… 국회는 방관

그렇다면 이러한 AI발 민주주의 위협을 방어할 수단은 얼마나 준비됐을까요? 국회는 사실상 손 놓고 있는 상황입니다. 현행법에는 AI를 활용한 허위 정보를 규제하는 별도 조항이 없습니다. 공직선거법, 형법, 정보통신망법 등 기존 법률을 적용해야 합니다.

AI 허위 정보를 규제하는 내용의 공직선거법 개정안이 6건 발의돼 있지만 모두 국회에서 계류 중입니다. 지난해 대선에서 윤석열 후보가 ‘AI 윤석열’을 통해 대중 친화적인 모습을 보이자 민주당이 “딥페이크를 통해 공직후보자의 단점을 숨기는 것은 유권자를 기만하는 행위”라고 비판했지만 대선이 끝나자 그 이상의 논의는 진행되지 않았습니다.

문송천 카이스트 경영대학원 명예교수는 “여야가 해야 할 일은 안 하고 마지막 순간에 궁지에 몰려 밀린 숙제하듯이 법안을 통과시키고 있다”며 “정치인 스스로 국회 수준에 대해서 돌아봐야 할 때”라고 따끔히 지적했습니다.

도널드 트럼프 전 미국 대통령 대선 캠프가 공식 홈페이지에서 판매한 머그샷 티셔츠. 조작된 가짜 영상이 현실 정치에 어떤 영향을 미치는지 잘 보여주는 사례다. 트럼프 대선 캠프 홈페이지 캡처

중앙선거관리위원회는 지난해 1월 ‘딥페이크 영상 관련 법규운용기준’을 발표했습니다. 내용을 요약하면 딥페이크 영상이 실제 후보자의 행위로 오인될 수 있거나 내용이 허위라면 허위사실 공표죄에 해당한다는 것입니다. 딥페이크 영상 임을 표기하지 않을 경우에도 같은 죄에 해당합니다.

선관위 관계자는 “동영상을 이용한 선거운동은 허위 사실이나 비방이 없으면 문제가 없다”며 “실제 인물이 아닐 경우 AI 가상 인물이라는 표시를 하면 된다”고 설명했습니다. 그러면서 “생성형 AI의 경우에는 아직 명확한 기준이 나오지 않았지만 허위사실 공표 등 위법 행위에 활용될 수 있다고 보고 대응 방안을 마련 중”이라고 했습니다.

다만 사각지대는 여전합니다. 선관위의 ‘딥페이크 기준안’은 영상을 규제할 뿐 조작된 이미지나 오디오는 포함하고 있지 않으며, 딥페이크 영상을 표시하는 기준도 구체적으로 규정하지 않고 있습니다. 투표 직전 진위 확인이 어려운 거짓 정보를 일부러 퍼뜨려 유권자의 선택에 혼란을 줄 가능성도 매우 큽니다.

미국의 경우 일부 주에서 딥페이크 선거운동에 관한 규정을 두고 있습니다. 미국 텍사스주는 후보자에게 손해를 입히거나 선거 결과에 영향을 줄 의도로 딥페이크 영상을 제작하고 유포하는 행위를 처벌합니다. 캘리포니아주에서는 악의적인 이미지, 오디오, 비디오 편집을 금지하고 있습니다.

임 교수는 “민주주의 질서를 훼손하는 행위에 대해서는 마약처럼 강하게 처벌하겠다는 의지가 필요하다”며 “법무부와 선거관리위원회가 합동으로 해법을 찾아야 한다”고 강조했습니다.

● 길거리 현수막으로 ‘혐오 전쟁’ 펼치는 여야

‘이재명판 더글로리’ ‘깡패지 당대표냐’ ‘탈당하면 돈봉투가 사라지나’(국민의힘 현수막)
‘이완용의 부활인가’ ‘친일본색 매국정권’ ‘국민능멸 굴욕외교’(민주당 현수막)

올해 3월 인천 미추홀구 주안역 일대 횡단보도에 여러 정당에서 내건 정치 현수막이 흉물스럽게 걸려 있다. 인천시 제공

국회는 딥페이크나 생성형 AI 규제에는 손 놓는 대신 전국 길거리를 ‘현수막 공해’로 덮고 있습니다. 학생들이 다니는 학교 앞에도 정치 혐오를 부추기는 거친 말이 가득한 현수막이 앞다퉈 걸리고 있습니다.

시민의 불편이 커지자 행정안전부는 올해 5월 어린이·노인·장애인 보호구역에 정당 현수막을 설치할 수 없고, 가로등과 가로수에 걸리는 현수막 개수도 2개 이하로 제한했습니다. 그러자 군소정당이 빈자리를 파고들었습니다. 이들은 특정 집단을 겨냥한 혐오 표현이나 음모론이 포함된 현수막을 거리낌 없이 내걸고 있습니다.

문 명예교수는 “미국과 영국에서 길거리 현수막은 불법”이라며 “우리나라는 중구난방으로 현수막을 게시하면서 정치에 대한 불신을 높이고 있다”고 지적했습니다.

이대로 가면 내년 총선은 온라인에서는 딥페이크와 생성형 AI의 거짓 정보, 오프라인에서는 막말 정치 현수막으로 인한 혼탁 선거 가능성이 큽니다. 그리고 그 피해는 고스란히 유권자들이 감당해야 할 것입니다.

‘한국 정치의 수준은 왜 나아지지 않을까?’ 대통령, 국회의원 선거를 각각 두 번씩 취재하며 가진 의문입니다. 해외 정치와 비교하면서 제 나름의 생각을 정리하고 있습니다. 우리 정치의 품격을 높일 해법을 독자 여러분과 함께 찾아보고 싶습니다. 지난주 정치인 자격시험과 인성검사 필요성에 관한 설명을 보내주신 독자님께 감사드립니다. 이메일 empty@donga.com으로 소중한 의견을 기다립니다.