AI 기술로 불법촬영물 24시간 추적-감시

서울시, AI 모니터링 시스템 도입
3분 만에 영상물 찾아줘

서울시가 인공지능(AI)을 이용해 디지털성범죄 피해물을 24시간 모니터링할 수 있는 시스템을 개발했다.

시 디지털성범죄 안심지원센터는 “AI 기술을 활용해 24시간 디지털성범죄를 추적 감시하는 ‘AI 삭제지원 프로그램’을 도입했다”고 29일 밝혔다. 새로 개발된 기술을 활용하면 24시간 실시간 모니터링을 통해 소셜네트워크서비스(SNS) 등에서 피해자 관련 영상물을 자동으로 찾아낼 수 있다.

새 시스템은 AI 딥러닝(심층 기계 학습)을 통해 오디오, 비디오, 텍스트를 종합적으로 분석하는 기능을 탑재했다. 이에 따라 한 번의 클릭만으로 자동 모니터링이 가능해졌다. 기존에는 피해자가 신고한 영상과 개인정보 등을 활용해 담당자가 웹사이트에서 일일이 검색해 영상물을 찾아야 했다. AI를 활용해 불법 촬영물을 모니터링하는 시스템은 전국에서 처음 개발된 것이다.

시 관계자는 “키워드 입력 후 영상물을 찾기까지 기존에는 1, 2시간 걸렸는데 새 시스템을 활용하면 3분 만에 가능하다”며 “검색 및 삭제 담당자들이 피해 영상물을 접하면서 트라우마가 생기는 것도 막을 수 있다”고 했다.

지난해 3월 29일 문을 연 안심지원센터는 영상물 삭제부터 법률지원, 심리치료 등 디지털성범죄 피해자에 대한 통합 지원을 제공하는 기관이다. 지난 1년간 피해자 402명, 7682건을 지원했다. 지금까지 안심지원센터에서 삭제한 피해 영상물은 3003건으로 이 중 과반인 1608건(54%)이 아동·청소년 대상 성착취물이었다.