총리 음성 학습해 거짓 ‘성적 발언’ 니혼TV 자막 입혀 생중계 흉내 방송사 “용서 못해… 대응할것”
인공지능(AI)을 사용해 조작한 기시다 후미오(岸田文雄) 일본 총리 동영상(사진)이 온라인에 퍼져 하루 만에 조회수 230만 회를 넘는 등 혼란을 일으키고 있다.
5일 일본 언론에 따르면 일본 민영 방송 니혼TV 로고가 상단에 떠 있는 이 동영상은 양복을 입은 기시다 총리가 성적인 발언을 하고 있는 것처럼 제작됐다. 니혼TV 자막 형식을 따라 한 자막도 입혀졌다. 또 ‘LIVE’(생중계) ‘BREAKING NEWS’(뉴스 속보)라는 자막도 나와 기시다 총리 발언이 긴급 속보로 생중계되는 듯한 인상을 준다.
3분 43초 분량의 이 조작 동영상은 올여름 인터넷 동영상 채널 ‘니코니코’ 등에 처음 게재됐다. 이후 분량을 30초로 줄인 동영상이 2일 소셜미디어 X(옛 트위터)에 올라와 하루 만에 조회수 232만 회 이상을 기록했다.
이 남성은 “기시다 총리 발언 및 허위 동영상은 모두 삭제했으니 소송 등은 하지 말아 달라”며 “단순한 장난”이라고 해명했다. 그는 지난해 아베 신조 전 총리 허위 동영상도 제작해 온라인에 올린 것으로 알려졌다. 하지만 니혼TV 측은 “방송, 프로그램 로고를 허위 동영상에 악용한 것은 도저히 용서할 수 없다. 필요에 따라 대응하겠다”고 4일 밝혔다.
AI를 활용해 유명 정치인 또는 연예인의 발언이나 행동을 조작해 거짓된 영상이나 이미지를 만드는 딥페이크 기술 등은 최근 세계 각국에서 논란이 되고 있다. 조 바이든 미국 대통령은 지난달 30일 AI 안전성 평가를 의무화하는 행정명령에 서명하면서 “나도 (AI로 만든) 내 영상을 보고 ‘도대체 내가 언제 저런 말을 했지’라고 생각한 적이 있다”고 말했다.
도쿄=이상훈 특파원 sanghun@donga.com