이미지 합성 앱 등 능숙하게 활용… 검거된 피의자 10명중 8명이 10대 여교사-동급생 얼굴 합성해 퍼뜨려 “스마트폰 놀이… 범죄 인식 못해 성범죄 폐해, 정규 교육 편성해야”
고교 2학년생 A 군(17)은 올해 8월 친구에게 장난삼아 “우리 학교 여자 선생님의 나체 사진을 합성해 달라”고 부탁했다. 친구는 인공지능(AI) 기술로 사진, 영상을 변형시키는 ‘딥페이크 봇’ 프로그램으로 이를 만들어 A 군에게 줬다. 이들은 성착취물을 소지한 혐의로 경찰에 붙잡혀 현재 조사를 받고 있다.
경찰이 올해 집중 단속을 통해 붙잡은 딥페이크 성착취물 제작 및 유포 사범 573명의 80%가 10대 청소년으로 나타났다. 그중에는 만 14세 미만 촉법소년도 94명(16.4%) 있었다. 전문가들은 “어린 학생들 사이에서 딥페이크 범죄가 놀이나 장난처럼 번지고 있다”며 “이대로 방치할 경우 성인이 되면 더 큰 범죄자로 전락할 우려가 있다”고 경고했다.
● 잡고 보니 80%가 10대… “기술 활용에 능숙”
10대들의 딥페이크 범죄는 끊이지 않고 있다. 지난달 강원 원주시의 한 학교에서는 10대 남학생이 동급생 사진으로 딥페이크 성착취물을 만들어 갖고 있다가 경찰에 적발됐다. 경찰은 이 성착취물이 단체메신저 등에 공유된 것으로 보고 수사 중이다. 9월에는 텔레그램에서 연예인 딥페이크 성착취물을 만들어 판 10대 청소년 3명이 경찰에 붙잡혔다.
경찰은 10대들이 새로운 프로그램이나 스마트폰 애플리케이션(앱), 소셜네트워크서비스(SNS) 활용에 능숙하고 이를 서로 빨리 공유한다는 특징 때문에 범죄에 발을 들이는 것으로 분석하고 있다. 이들은 AI 기술로 이미지 합성물을 만드는 데 능하다. 경찰에 따르면 검거된 10대 청소년 중에는 이미지 합성 앱인 ‘언드레스’, ‘누디파이’ 등으로 성착취물을 만든 경우도 있었다. 하동진 서울경찰청 청소년보호계장은 “다양한 사진 합성 앱을 활용해 딥페이크 합성물을 제작하는 방법이 유튜브 등 SNS에서 손쉽게 공유되고 있다”고 말했다. 때문에 일각에서는 범죄에 악용되는 빈도가 높은 앱이나 프로그램은 청소년들의 접근을 막을 방법을 강구해야 한다는 목소리도 나온다.
● 범죄를 ‘놀이’쯤으로 여겨… “학교도 대응해야”
10대들에 대한 교육, 검거, 처벌에서 더 나아가 문제가 된 앱과 프로그램에 대한 조치도 논의해야 한다는 지적이 나온다. 황석진 동국대 국제정보보호대학원 교수는 “방송통신심의위원회가 문제가 되는 프로그램에 대한 삭제 조치를 하고 있지만, 우후죽순으로 늘어나는 딥페이크 봇을 모두 삭제하긴 한참 모자란다”며 “방심위와 경찰, 한국인터넷진흥원(KISA) 등이 협의해 전담팀을 만들어 실시간으로 악성 프로그램을 단속, 삭제하는 등의 강력한 조치가 필요하다”고 말했다.
이수연 기자 lotus@donga.com
임재혁 기자 heok@donga.com
이상환 기자 payback@donga.com