[사설]AI발 허위정보 1분이면 ‘뚝딱’… ‘선거 악용’ 막을 대책 급하다

인공지능(AI) 딥페이크 기술을 이용해 도널드 트럼프 전 미국 대통령이 한 무리의 경찰들에게 진압당하는 모습의 가짜 사진이 미 소셜미디어에서 확산되고 있다. 경찰의 추격을 피해 도로를 질주하는 트럼프 전 대통령의 사진 역시 가짜다(사진). 트럼프 전 대통령이 체포됐다는 가짜 뉴스 또한 확산되고 있다. 트위터 캡처

내년 한국 총선과 미국 대선 등 국내외 주요 선거를 앞두고 인공지능(AI) 기술을 악용한 허위 정보의 범람 가능성이 우려된다. 영상 이미지 음성 등을 합성해 실제처럼 보이게 하는 ‘딥페이크’ 기술의 급속한 발달이 AI와 상승 작용을 일으키면서 이 같은 우려를 더 키우고 있다. 2020년 미국 대선 때까지만 해도 제기되지 않았던 AI의 정치적 위협으로 정치권에 비상이 걸린 상황이다.

하루가 다르게 진화하는 생성형 AI는 비전문가도 상품화된 일반 프로그램을 이용해 쉽게 가짜 콘텐츠를 만들 수 있도록 하는 수준까지 와 있다. 본보가 전문가와 함께 이를 시도해본 결과 방송 뉴스 앵커의 목소리 그대로 허위 멘트가 만들어지는 데는 단 10초, 영상의 배경 이미지를 바꾸는 데는 1분밖에 걸리지 않았다. 기술적 한계들이 빠른 시간 내에 새 버전으로 보완되면서 진짜와 가짜의 판별이 극도로 어려워지는 것도 문제다.

이를 선거에 활용하면 선거 후보의 잘못된 공약 연설이나 인터뷰를 순식간에 만들어낼 수 있다. 상대 후보의 목소리로 허위 메시지를 ARS로 내보내고 선거 임박 시점에 후보 사퇴 회견을 하는 것처럼 뉴스를 조작하는 방식도 있다. 유명인이 특정 후보를 지지하는 것처럼 꾸며내 정치광고와 후원금 모집에 사용하는 것도 가능하다. 최근 펜타곤 폭발 사진 조작에서 보았듯 안보 불안을 부추김으로써 표심을 흔들려는 시도도 늘어날 것으로 전망된다.

내년 4월 총선을 치르는 우리나라도 예외가 아니다. 진보 대 보수, 기성세대와 청년세대, 젠더, 빈부 등으로 분열된 사회 갈등을 틈타 허위 정보를 퍼뜨리려는 세력이 AI를 이용할 가능성이 우려된다. 그렇지 않아도 자극적 주장을 앞세운 강성 팬덤 정치의 폐해로 몸살을 앓고 있는 게 한국 정치권이다. SNS를 통한 콘텐츠 확산 속도도 어느 나라보다 빠르다. 유권자별로 정교하게 맞춰진 허위 정보들이 여론을 교란하고 선거 결과를 왜곡시켜 민주주의를 흔드는 결과로까지 이어질 위험이 있는 것이다.

이런 문제에 대응하려면 AI의 정치적 오·남용을 막고 경각심을 키우기 위한 제도적 조치 마련이 시급하다. 유럽연합(EU)이 ‘AI 생성 콘텐츠’ 표시 의무화 등을 명시한 AI규제법을 추진하는 등의 해외 사례를 참고할 수 있을 것이다. 의사 표현의 자유를 넘어 선거에 영향을 미치려는 의도적 조작, 왜곡 시도에는 강도 높은 책임 또한 물어야 한다.