AI로 조작한 기시다 동영상 확산… 하루만에 232만회 조회

총리 음성 학습해 거짓 ‘성적 발언’
니혼TV 자막 입혀 생중계 흉내
방송사 “용서 못해… 대응할것”

인공지능(AI)을 사용해 조작한 기시다 후미오(岸田文雄) 일본 총리 동영상(사진)이 온라인에 퍼져 하루 만에 조회수 230만 회를 넘는 등 혼란을 일으키고 있다.

5일 일본 언론에 따르면 일본 민영 방송 니혼TV 로고가 상단에 떠 있는 이 동영상은 양복을 입은 기시다 총리가 성적인 발언을 하고 있는 것처럼 제작됐다. 니혼TV 자막 형식을 따라 한 자막도 입혀졌다. 또 ‘LIVE’(생중계) ‘BREAKING NEWS’(뉴스 속보)라는 자막도 나와 기시다 총리 발언이 긴급 속보로 생중계되는 듯한 인상을 준다.

3분 43초 분량의 이 조작 동영상은 올여름 인터넷 동영상 채널 ‘니코니코’ 등에 처음 게재됐다. 이후 분량을 30초로 줄인 동영상이 2일 소셜미디어 X(옛 트위터)에 올라와 하루 만에 조회수 232만 회 이상을 기록했다.

이 동영상은 오사카에 사는 25세 남성이 만든 것으로 알려졌다. 이 남성은 4일 소셜미디어를 통해 자신이 생성형 AI 등을 사용해 기시다 총리 가짜 동영상을 제작해 인터넷에 올렸다며 “재미로 만들었다”고 밝혔다. 그는 인터넷에 공개된 기시다 총리 기자회견 및 자민당 대회 연설 동영상 등에서 나온 총리 음성을 AI에 학습시켜 거짓 발언을 만든 것으로 알려졌다. 여기에는 기시다 총리의 온라인 기자회견을 보도한 니혼TV 뉴스 프로그램도 활용됐다.

이 남성은 “기시다 총리 발언 및 허위 동영상은 모두 삭제했으니 소송 등은 하지 말아 달라”며 “단순한 장난”이라고 해명했다. 그는 지난해 아베 신조 전 총리 허위 동영상도 제작해 온라인에 올린 것으로 알려졌다. 하지만 니혼TV 측은 “방송, 프로그램 로고를 허위 동영상에 악용한 것은 도저히 용서할 수 없다. 필요에 따라 대응하겠다”고 4일 밝혔다.

AI를 활용해 유명 정치인 또는 연예인의 발언이나 행동을 조작해 거짓된 영상이나 이미지를 만드는 딥페이크 기술 등은 최근 세계 각국에서 논란이 되고 있다. 조 바이든 미국 대통령은 지난달 30일 AI 안전성 평가를 의무화하는 행정명령에 서명하면서 “나도 (AI로 만든) 내 영상을 보고 ‘도대체 내가 언제 저런 말을 했지’라고 생각한 적이 있다”고 말했다.