김현지 미래전략연구소 사업전략팀장
몇 개월 전까지만 해도 무한한 가능성의 보고로 기대를 모으던 딥페이크(Deep fake) 기술이 공공의 적으로 몰리는 형국이다. 미국 인기 가수 테일러 스위프트의 얼굴을 음란한 사진에 합성한 가짜 이미지 사건, 기시다 후미오(岸田文雄) 일본 총리가 성적 발언을 하는 가짜 영상 사건이 잇따르면서 딥페이크 기술을 규제해야 한다는 목소리가 들끓고 있는 것이다.
총선을 70일 앞둔 우리 사회도 예외는 아니다. 중앙선거관리위원회는 딥페이크 영상을 이용한 선거운동을 금지하고 수십 명 규모의 특별 전담반을 꾸려 단속 활동을 벌이기 시작했다. 딥페이크를 활용한 가짜 뉴스가 선거 결과에 치명타가 될 수 있어서다.
정치권은 누군가 작정하고 딥페이크 영상물을 퍼트릴 경우 속수무책으로 당할 가능성이 크다며 발을 동동 구르고 있지만 딥페이크 영상물의 피해를 줄이는 열쇠는 콘텐츠 유통 과정에서 적절한 조치를 취하는 데 있다. 딥페이크가 사회적 문제가 되는 것은 딥페이크 기술 자체보다 딥페이크 이미지가 소셜서비스 플랫폼을 타고 빠르고 광범위하게 전파되기 때문이다.
에릭 슈밋 전 구글 CEO는 과학기술 전문 매거진 ‘MIT 테크놀로지 리뷰’ 최신호에 소셜미디어 플랫폼이 잘못된 선거 정보에 맞설 수 있는 방법 6가지를 제시했다.(원제: ‘Eric Schmidt has a 6-point plan for fighting election misinformation’)
가장 먼저 할 일은 악성 계정을 파악하는 것이다. 슈밋 전 CEO에 따르면 콘텐츠가 네트워크에 유입된 시간과 IP주소를 알면 악성 계정 정보는 적잖이 확보할 수 있다. 이런 계정들은 알고리즘 우선순위를 낮춰 해당 계정이 올린 콘텐츠가 확산될 여지를 주지 않는 편이 안전하다.
AI로 만든 이미지를 판별하는 기능을 갖추는 것은 꼭 필요해 보인다. ‘스팸 위험’ 표시가 뜨는 전화번호에 대해 미리 조심하게 되는 것처럼 어떤 이미지가 딥페이크의 결과물일 가능성이 높은 경우 이를 미리 알려주면 피해를 줄일 수 있다.
시스템적 접근만으로 해결하기 힘든 부분에 대해선 인력을 투입해 해결하려는 노력도 기울여야 한다. 추가 고용이 필요한 일이라 회사는 부담스럽겠지만 진정성을 보여주기에 좋은 방법이다.
김현지 미래전략연구소 사업전략팀장 nuk@donga.com