美 고교서 AI 딥페이크 음란물 사진 제작·유포… 막을 방법 마땅찮아

셔터스톡

“엄마, 이들이 내게 무슨 짓을 한 거예요?”

5일(현지 시간) 미국 워싱턴포스트(WP)에 따르면 올 9월 스페인에 사는 미리암 알 아디브 멘디리 씨는 집에서 초조하게 자신을 기다리는 14세 딸을 봤다. 딸은 온라인에 떠돌고 있는 자신의 나체 사진을 보여줬다. 딸은 이런 사진을 찍은 적이 없다며 안절부절못했다. 경찰에 확인해보니 또래 남자아이들이 저지른 일이었다. 딸 소셜미디어에 있는 사진을 가지고 인공지능(AI) 기반 사진 합성 기술을 활용해 딥페이크 나체 사진을 조작한 것.

최근 해외에서 청소년 딥페이크 피해가 잦다. 국내에서도 소셜미디어에 지인의 얼굴을 음란물과 합성한 이른바 ‘지인 능욕’ 사진이 논란이 되고 있다.

2일 미 월스트리트저널(WSJ)에 따르면 지난달 뉴저지주(州) 웨스트필드고등학교에서 2학년 남학생들이 여학생들 딥페이크 사진을 만들어 단체 채팅으로 공유했다. 피해자인 프란체스카 마니 양(14) 어머니 도로타 씨는 “내 딸 미래는 밝은데 이것이 직업적, 학문적, 사회적으로 영향을 미치지 않는다고 장담할 수 없지 않느냐”고 WSJ에 말했다.

미 폭스뉴스가 보도한 미 연방수사국(FBI) 자료에 따르면 지난해 2월부터 올 2월까지 딥페이크 사진으로 인한 성범죄 건수는 전년 동기에 비해 322% 증가했다. WP는 성인물을 게시하는 상위 10개 웹사이트에서 딥페이크 게시물이 2018년 이후 290% 이상 늘었다고 전했다.

WSJ는 “몇 년 전까지만 해도 사진을 합성하려면 컴퓨터가 필요했지만 이제 아이폰만 있으면 된다”고 전했다. 포털사이트에서는 미 청소년들이 사용하는 딥페이크 사진을 만들 수 있는 스마트폰 애플리케이션(앱)을 손쉽게 찾을 수 있다.

하지만 딥페이크 피해를 막을 방법은 마땅치 않다. WP에 따르면 “딥페이크를 규제할 수 있는 연방법은 없으며 관련 규제를 제정한 주도 몇 곳에 불과하다.” 딥페이크 유통을 금지하거나 피해자들이 딥페이크 제작자들을 고소할 수 있도록 하는 법을 제정한 주는 버지니아 캘리포니아 미네소타 뉴욕 등 9개 밖에 없다. 지난달 30일 조 바이든 대통령이 서명한 AI 규제를 담은 행정명령은 단지 AI를 활용해 만든 사진과 영상 등에 워터마크 등을 붙이도록 권고할 뿐이다.