“범죄 예방은 좋지만 찜찜하네”…애플 ‘아동보호기능’ 써도 괜찮을까

애플이 이르면 이달 내에 iOS 신규 업데이트를 통해 국내에도 ‘아동 보호 기능’을 추가한다. 아이들이 아이폰 등으로 음란물 사진을 주고받을 경우 이를 차단 처리하고 경고 문구를 띄울 수 있는 기능이다.

아동 대상 성착취 범죄 등을 막기 위한 기능이지만 일각에서는 범죄 사전 차단을 위해 이용자들의 사생활이나 개인정보가 침해될 수 있는 것 아니냐는 우려가 나온다. 실제로 앞서 아동 보호 기능이 적용된 미국에서부터 유사한 논란이 제기되기도 했다. 애플의 아동 보호 기능이 범죄 예방과 개인정보 보호라는 두 마리 토끼를 다 잡을 수 있을까.

◆애플, 한국 등 6개국서도 아동 보호 기능 추가 예정…어린이 아이폰서 음란물 송·수신 차단

21일 업계에 따르면 애플은 2~3주 내 진행될 것으로 예상되는 iOS 16.4 업데이트를 통해 한국, 일본, 네덜란드, 스웨덴, 브라질, 벨기에 등 6개국에 아동 보호 기능을 추가할 예정이다.

아동 보호 기능은 아이폰의 메시지 앱(iMessage)에서 만 14세 미만(한국기준) 어린이가 아동 성착취 등 위험요소가 있는 이미지를 송·수신할 경우 아이가 사용하는 기기에 경고 문구를 표시하는 기능이 핵심이다.

해당 기능은 아이클라우드(iCloud)에서 가족 계정이 활성화돼있고, 부모가 직접 가족공유플랜을 통해 활성화할 수 있다. 기능 활성화 이후 아이의 아이폰 등에 노출과 같은 부적절한 사진 등 콘텐츠가 수신될 경우 해당 콘텐츠는 바로 블러(차단) 처리되고, 아이에게 경고 문구가 표출된다. 경고와 함께 부적절한 콘텐츠를 거부해도 괜찮다고 안심시키는 안내문도 함께 적용된다.

이같은 기능은 국내외에서 아동 성착취 범죄가 문자 등으로 사진을 주고 받는 것에서 시작하는 경우가 많기에 사전에 이를 차단하기 위해 신설된 것으로 보인다.

◆美서 제기된 ‘개인정보 침해’ 우려…한발 뺀 애플, ‘아이클라우드 감시’ 기능 폐기

아동 보호 기능이 해외에서 먼저 출시된 이후 애플이 개인정보, 사생활 등을 침해할 수 있다는 지적이 나오기도 했다. 범죄 방지가 목적이라 하더라도 아이폰 등에서 송·수신되는 사진을 어떻게 확인할 수 있는 것 아니냐는 우려에서다.

미국에서는 메시지 앱 이미지 스캔 기능과 아이클라우드 내 아동 성착취물(CSAM) 감시 기능 도입을 이미 지난 2021년 발표한 바 있다. 해당 기능은 미국 현지에서도 강력한 역풍을 일으켰다. 그간 개인정보 보호를 어느 회사보다 강조해온 애플이 범죄 방지를 명목으로 ‘검열’에 나선다는 반발이 컸다.

이에 애플은 아이클라우드에 저장된 이미지를 애플 측이 아닌 기기가 자체적으로 스캔해 CSAM 여부를 확인하고, 검토된 데이터베이스 또한 사용자 기기에 암호화돼 저장될 뿐이라고 해명했다. 이미 기기 내에 CSAM 사진를 분석하는 알고리즘이 심어져 있고, CSAM 의심 사진의 양이 임계치를 넘을 경우에만 애플 측의 접근이 가능하다는 것이다.

이와 관련해 애플은 이례적으로 FAQ까지 공개하며 CSAM 차단 기능에 대한 자세한 설명을 내놓기도 했다. 아동 보호 기능이 활성화된다 하더라도 애플이나 어떤 법 집행기관도 개인의 기기에 접근할 수는 없다는 설명이 핵심이다.

그럼에도 검열 논란이 완전히 해소되지 않자 애플은 아이클라우드 내 CSAM 감시 기능을 최종 폐기하고 메시지 앱 내 부적절한 사진을 차단하는 기능만 도입했다. 이후 완전히 개인정보 보호로 가닥을 잡은 듯 종단간 암호화 기능을 보다 강화하는 iOS 업데이트를 추진하기도 했다.

◆아동 보호 기능, 개인정보 완전 보호하며 적용…부모도 함부로 접근 X

아이클라우드 CSAM 감시 기능은 폐기됐지만 애플은 이를 의식한 듯 메시지 앱 음란물 차단 기능과 관련해서도 개인정보가 완전히 보호되고 있다고 강조한다.

아동 보호 기능 활성화 시 메시지 앱은 발송 시 첨부된 사진을 분석하고 해당 사진이 부적절한 요소를 포함하는지 감지하는데, 그러면서도 종단간 암호화(E2E) 기술을 그대로 적용된다.

종단간 암호화 기술은 데이터의 보관·전달 과정에서 데이터를 모두 암호화된 형태로 유지하는 기술이다. 이를 통해 부적절한 요소가 감지되더라도 그 기록이 개인 기기 밖으로 유출되지 않고, 설령 해킹된다 하더라도 해커가 데이터의 내용을 쉽게 파악할 수 없다.

이에 따라 애플도 메시지 데이터 등에 일절 접근 권한이 없으며, 정보가 전송되는 것도 없다. 심지어 아이의 아이폰에 실제로 음란물 등이 전송돼 경고 문구가 뜨더라도 아이가 원하지 않는 한 부모 또는 그 누구에게도 알림이 전송되지 않는다.

◆“아동 보호 기능, 기기 자체 적용으로 유출 가능성 낮아…공익성 훨씬 크다”

보안업계에서도 이번 애플의 아동 보호 기능이 프라이버시 침해 문제보다는 공익성이 더 크다고 보고 있다.

OS 업데이트를 통해 추가되는 아동 보호 기능은 머신러닝 AI(인공지능)을 활용해 기기 자체적으로 메시지 내 음란물을 스캔하게 되고, 거기에 종단간 암호화까지 그대로 적용되기에 애플의 설명대로 기기 외부로 데이터가 유출될 가능성이 극히 적다는 분석이다.

임종인 고려대 정보보호대학원 교수는 “이번 애플의 아동 보호 기능의 경우 공익적인 면이 훨씬 크다. 해외에서도 아동 대상 성범죄 문제가 워낙 사회적 문제가 됐기 때문에 기업체에서도 이건 돈벌이보다는 어떤 사회적 책임 차원에서 이를 막기 위해 기능들을 추가하는 것”이라며 “AI 등을 활용하는 만큼 우려되는 면이 있다면 기술적 결함이라고 할 수 있겠지만, OS 기반인 만큼 문제가 조금 있어도 바로 패치할 수 있을 것이라고 본다”고 설명했다.

한편 이번에 국내에서 추가되는 아동 보호 기능은 당장은 iOS의 메시지 앱에서만 적용된다. 다만 애플은 API(앱 프로그래밍 인터페이스) 개방 등을 통해 카카오톡, 페이스북 메시지 등 타사의 메신저 앱까지 해당 기능을 확장하는 방안을 검토하고 것으로 알려졌다. 사진 뿐만 아니라 부적절한 내용이 포함된 비디오까지 아동 보호 기능이 적용되도록 확장하는 방안도 고려 중이다.

[서울=뉴시스]