“AI가 디지털 성범죄 영상물 찾아 자동 삭제”

서울디지털성범죄 안심지원센터
AI 자동 추적-감시 시스템 도입
삭제 영상물 작년보다 50% 늘어
“청소년 맞춤 AI 시스템도 개발 중”

21일 서울 동작구 서울디지털성범죄 안심지원센터에서 문기현 센터장(왼쪽)이 디지털성범죄 통합지원체계에 대해 설명하고 있다. 오른쪽은 기술 개발에 참여한 서울연구원 김준철 디지털도시연구실 연구책임자. 김동주 기자 zoo@donga.com

“인공지능(AI) 삭제 시스템을 도입한 후 디지털 성범죄 피해 지원이 훨씬 수월해졌습니다.”

21일 서울 동작구 서울디지털성범죄 안심지원센터에서 만난 문기현 센터장은 이렇게 말했다. 지난해 3월 문을 연 센터는 디지털 성범죄 피해 영상물 삭제부터 긴급 상담, 수사·법률 지원, 심리치료, 의료 지원 등을 통합 지원하고 있다. 피해자가 센터를 방문하면 일대일로 지원관이 배정돼 필요한 지원을 원스톱으로 받을 수 있다.

센터는 특히 올 3월 전국 최초로 ‘인공지능(AI) 디지털 성범죄 피해 24시간 자동 추적·감시 시스템’을 도입했다. 서울연구원이 개발한 이 시스템은 정보를 넣으면 구글, 트위터, 인스타그램, 페이스북 등 4가지 플랫폼에서 유사도가 높은 영상 또는 사진을 자동으로 검색해 알려준다. AI 딥러닝 기술을 활용해 오디오, 비디오, 텍스트 정보를 종합적으로 분석하며 여러 플랫폼으로 퍼진 피해 게시물들을 효율적으로 찾아낼 수 있다.

● 7개월간 영상물 45만 건 모니터링

올해 3∼10월 AI가 모니터링한 영상물은 45만7440건으로 지난해 같은 기간(3만3511건)의 약 14배에 달한다. 삭제까지 이어진 영상물도 지난해 1309건에서 올해 2007건으로 50% 이상 증가했다. 키워드 검색부터 영상물 검출까지 AI는 3분 만에 해낸다. 사람이 하면 1, 2시간 걸리는 일이다.

기술을 개발한 김준철 서울연구원 디지털도시연구실 연구책임자는 “피해자의 얼굴을 ‘비식별화’한 데이터를 연구 목적으로 동의받아 AI 시스템에 학습시켰다”며 “동영상의 다양한 패턴을 모두 인식하기 때문에 정확도가 높은 편”이라고 말했다.

AI 시스템이 도입되면서 직원들의 업무 부담도 크게 줄었다. 문 센터장은 “센터에 삭제 지원관이 5명밖에 안 되는데 AI가 알아서 24시간 검색하기 때문에 업무에 큰 도움이 되고 있다”고 말했다. 지원관들이 피해 영상물을 접하면서 발생하는 트라우마와 스트레스도 상당 부분 줄었다고 한다.

다만 디지털 성범죄 피해 지원 업무에는 사람의 ‘노하우’ 역시 여전히 중요하다. AI가 모니터링 영상을 추출한 후 각 사이트에 삭제 지원 요청을 하는 것은 삭제 지원관들의 몫이다. 예고 없이 재유포하거나, 잠깐 올려놨다가 삭제하는 등 디지털 성범죄 수법이 갈수록 교묘해지는 것도 문제다.

● 책가방 등으로 아동·청소년 인지

센터는 특히 아동·청소년 피해물에 대한 사전 모니터링에 집중하고 있다. 성인물은 피해자의 신고가 있어야만 모니터링이 가능하지만 아동 청소년물은 ‘아동·청소년 성보호에 관한 법률’에 의해 사전 대처가 가능하다.

이를 위해 서울연구원이 내년 3월까지 개발하는 ‘아동·청소년 디지털 성범죄 모니터링 AI 시스템’도 활용할 계획이다. 딥러닝 기반으로 영상 내 얼굴을 분석해 미성년자 여부 등을 판단하는 시스템이다. 김준철 연구책임자는 “영상에 나오는 공간의 특성과 책가방, 테디베어 등 소지물을 AI가 자체 분석해 피해자의 연령대와 특징을 조금 더 정밀하게 특정하는 방식”이라고 설명했다.

문 센터장은 “아동·청소년이 성범죄 피해를 당하면 온 가족이 트라우마가 생기기도 한다”며 “내년에는 가족 단위의 심리치료 지원 등으로 범위를 확대하려 한다”고 말했다.