19일 서울시의회 제327회 정례회 제3차 본회의에 등장한 오세훈 서울시장의 딥페이크 영상. 유튜브 채널 ‘서울시의회’ 영상 캡처
오세훈 서울시장이 30대 ‘몸짱’ 배우로 등장했다. 딥페이크(인공지능 기반 이미지 합성) 기술을 통해서다.
19일 서울시의회 제327회 정례회 제3차 본회의에서 윤영희 서울시의원(국민의힘)은 최근 지방의회 의원들을 상대로 한 딥페이크 범죄 피해가 확산 중이라고 언급하며 직접 오 시장의 얼굴로 만든 딥페이크 영상을 공개했다. 딥페이크 기술의 파급력을 쉽게 설명함과 동시에 위험성과 심각성을 알리기 위해서다.
윤 의원은 휴대전화 앱을 이용해 한 외국 배우의 영상에 오 시장의 얼굴을 합성했다. 그는 “제가 이 영상을 1분도 안 돼서 만들었는데 심지어 무료였고 너무 쉬웠다”고 지적했다.
19일 서울시의회 제327회 정례회 제3차 본회의에 등장한 오세훈 서울시장의 딥페이크 영상. 유튜브 채널 ‘서울시의회’ 영상 캡처
이어 “피해자가 되면 사회적·정신적 피해가 극심한 만큼 앞으로도 인격권을 철저히 보호할 수 있게 하겠다”고 강조했다.
앞서 지난 17일 경찰청은 최근 서울, 인천, 부산, 광주, 대구 등 전국 각지의 기초의원 소속 30명으로부터 딥페이크 협박 메일을 받았다는 신고를 접수했다고 밝혔다. 불법 합성물에 사용된 사진은 의회 홈페이지 등 인터넷에 올라와 있는 의원들의 증명사진이다.
메일에는 “당신의 범죄 증거를 갖고 있다” “어떤 영향이 터지는지 알고 있을 것” 등 협박 메시지도 함께 담긴 것으로 전해졌다.
메일 발송자는 불법 합성물을 삭제해 주는 대가로 5만 달러(약 7000만 원) 상당의 암호화폐를 QR코드로 보내라고 유도한 것으로 조사됐다.
경찰 관계자는 “서울경찰청 사이버범죄수사대 등 각 지방청 차원에서 수사할 방침”이라고 말했다.