감시 기술 전국 첫 개발, 24시간 추적 작년 2배 30만건 모니터링 기대
“야한 사진 보내줘. 사진 보내주면 5만 원도 줄 수 있어.”
지난해 9월 용돈이 부족해 아르바이트를 구하던 중학생 A 양(16)은 소셜네트워크서비스(SNS)에서 불특정 상대방과의 온라인 채팅 대화 1건당 70원을 준다는 광고를 접했다. A 양에게 접근한 가해자는 처음엔 일상적 대화를 이어갔지만 점차 얼굴 사진이나 노출 사진 등을 요구했다. A 양이 거절하자 가해자는 “이런 아르바이트 하는 걸 부모에게 말하겠다”며 협박했고, A 양이 보낸 사진을 온라인에 유포했다.
22일 서울 디지털 성범죄 안심지원센터에 따르면 이같이 아동·청소년을 대상으로 한 디지털 성범죄 피해 관련 지원은 매년 급증해 2022년 총 2026건에서 지난해 7배 이상인 1만5434건으로 늘었다. 센터에 따르면 아동·청소년을 대상으로 한 대표적인 디지털 성범죄 유형으로는 미성년 피해자를 유인하고 길들이는 ‘온라인 그루밍’을 비롯해 불법 사진 합성, 관련 사진이나 동영상 유포·재유포, 신체 불법 촬영물인 ‘몸캠’ 협박 등이 있었다.
이번에 도입된 AI 감시 시스템은 AI 딥러닝 기반 안면인식 기술로 성인과 잘 구별되지 않는 아동·청소년의 성별과 나이까지 판별할 수 있는 시스템이다. 또 AI가 영상물에 자주 등장하는 책이나 교복, 청소년이 사용하는 언어 등을 함께 인식하기 때문에 영상물에 얼굴이 등장하지 않더라도 피해 여부를 판별할 수 있다.
성착취물을 찾아내 삭제하기까지 걸리는 시간과 정확도 역시 크게 향상된다. 키워드 입력부터 영상물 검출까지 90초밖에 걸리지 않아 기존에 영상물을 수작업으로 찾아낼 때와 비교하면 검출 속도는 80분의 1 수준으로 줄고, 정확도는 300% 이상 향상된다. 서울시 관계자는 “지난해 수작업으로 이뤄진 모니터링 건수 15만 건의 2배에 달하는 약 30만 건까지 모니터링할 수 있을 것”이라고 설명했다.
이채완 기자 chaewani@donga.com