‘딥페이크’ 꼼짝마!…합성 영상·사진 탐지하는 모바일 앱 개발

가짜뉴스와 음란물 제작에 악용되는 디지털 영상 변조기술 ‘딥페이크’를 가려낼 수 있는 모바일 애플리케이션(앱)이 국내 처음으로 개발됐다.

이흥규 KAIST 전산학부 교수 연구팀과 KAIST 창업기업 디지털이노텍은 인공지능(AI) 기술인 인공신경망으로 딥페이크 영상과 사진을 탐지하는 소프트웨어 ‘카이캐치’를 모바일 앱 형태로 개발해 서비스를 시작한다고 30일 밝혔다.

딥페이크는 AI를 이용해 기존 인물 얼굴이나 특정 부위를 위화감 없이 교체하거나 변형하는 이미지 합성 기술이다. 다른 사람의 얼굴로 바꾸는 얼굴 교체, 유명인사의 얼굴을 모방하는 얼굴 재현, 얼굴 일부 모습을 바꾸는 속성 변환 등이 있다. 가짜뉴스나 음란물 제작 등에 악용돼 개인 인권을 크게 침해하는 사례가 많았다.

avi나 mp4 형식의 딥페이크 의심 동영상을 앱에 올리면 이를 개별 프레임으로 잘라 이미지로 변환하고 딥페이크 여부를 가려낸다. 영상이 미세하게 변형된 신호 흔적을 찾아내고 코, 입, 얼굴 윤곽 등에서 기하학적 왜곡이 발생했는지 탐지한다. 동영상 한 프레임을 캡쳐해 이미지로 만들어 올려도 분석이 가능하다. 사진 위변조 여부도 확인할 수 있다. ‘BMP’, ‘TIF’, ‘TIFF’, ‘PNG’, ‘JPEG’ 등 다양한 형식의 디지털 사진을 올리면 위변조가 의심되는 부분을 다른 색깔로 표시한 분석 이미지를 제공한다.

이 교수는 “예측하지 못하거나 모르는 변형 기법을 사용해도 90% 내외 높은 신뢰도로 탐지한다”고 말했다.

현재는 안드로이드 기반의 스마트폰에서만 사용할 수 있다. 앱은 무료로 내려받을 수 있고 분석을 의뢰하면 비용을 내야 한다. 동영상이나 사진을 올리면 3일 이내에 분석 결과를 받아볼 수 있다. 조만간 애플 iOS용으로도 선보일 예정이다.

조승한 동아사이언스기자shinjsh@donga.com