SNS에 떠도는 ‘유명 배우’ 음란 광고…“당신도 당할 수 있다”

“학교 괴롭힘에 악용될 수 있어”

할리우드 유명 배우들이 딥페이크 기술을 이용한 소셜미디어(SNS) 음란 광고에 피해를 보고 있다고 미국 언론이 전했다.

8일(현지 시각) NBC뉴스에 따르면 영화 ‘해리포터’ 주인공 엠마 왓슨이 수줍은 미소를 지으며 유사성행위를 연상케 하는 포즈를 취하는 영상이 최근 SNS에 확산됐다.

영상 속 인물은 실제 왓슨이 아니다. 딥페이크로 얼굴 부분만 왓슨으로 바꿔치기한 것이다. 몸은 포르노 영상에서 따왔다. 딥페이크는 얼굴이나 소리를 조작하는 인공지능(AI) 기술이다.

이 영상은 딥페이크 앱을 홍보하려는 한 업체의 광고물이었다. 이 광고물은 지난 5~6일 이틀간 페이스북과 인스타그램 등 메타 서비스에 230개 이상 게재된 것으로 파악됐다.

엠마 왓슨의 얼굴이 등장하는 광고 스틸

화면 상단에는 “비디오에 아무 얼굴이나 합성해보세요”라는 문구가 적혀 있다. 일반인도 얼마든지 대상이 될 수 있다는 얘기다.

왓슨뿐만 아니라 스칼릿 요한슨 등 인기 여배우들의 얼굴을 도용한 광고물은 최근 대량 쏟아지고 있다. 메타 광고 중 127개가 왓슨을 닮은 것이었고 다른 74개는 요한슨의 얼굴이었다고 NBC는 전했다.

매체가 이런 앱을 직접 써보니, 패션, 신부, 남성용, 여성용 등 여러 기본 카테고리 중 ‘핫’ 카테고리에 노출이 심한 여성이나 남성이 춤을 추고 포즈를 취하는 베이스 영상이 있었다. 사용자가 원하는 얼굴사진을 입력하면 몇 초 만에 얼굴이 바뀐 영상을 볼 수 있었다. 2022년 개발된 이 앱은 애플 스토어에서 만 9세 이상만 되면 무료로 자유롭게 다운로드받을 수 있었다고도 설명했다.

미국 테네시주에서 저널리즘을 전공하는 학생 로렌 바튼은 “딥페이크 앱을 이용한 영상을 트위터에 올렸더니 조회수가 1000만뷰 이상 나왔다”며 “이것은 고등학교에서 괴롭힘을 당하는 아이들에게 악용될 수 있다. 누군가의 인생을 망칠수 있다”고 지적했다.

주요 SNS와 앱 판매 플랫폼들은 음란물 콘텐츠를 금지하고 있지만, 규제 틈을 교묘하게 파고들면 일일이 규제하기 어러운 실정이다.

메타 대변인은 “우리는 AI 생성물 여부와 관계없이 성인용 콘텐츠를 금지하고 있다”며 “현재 이 앱이 우리 플랫폼에서 광고하는 것을 제한한 상태”라고 밝혔다. 애플 스토어 관계자도 “아직 딥페이크에 대한 구체적 규정은 없지만, 음란물과 명예훼손 우려가 있는 콘텐츠가 포함된 앱은 금지하고 있다”며 “NBC 지적을 받고 앱스토어에서 문제의 앱을 삭제했다”고 밝혔다.