[특파원 칼럼/임우선]모두를 위협하는 첨단 딥페이크

임우선 뉴욕 특파원

‘새대가리(birdbrain)’, ‘저능아(low IQ)’, ‘또라이(nuts)’, ‘돌처럼 멍청한 인간(dumb as a rock)’….

11월 대선을 앞둔 요즘, 미국 정치권에 날아다니는 막말들을 보면 씁쓸한 웃음이 난다. 지구 반대편으로 와도 어쩜 정치는 이리 비슷한지…. 나만 옳고, 나만 지지받을 자격이 있다는 그 확고한 믿음은 미국에서도 예외는 아니다. 정치만큼 인간의 자기본위적 본성이 극대화되는 영역도 없을 것이다.

그런데 어쩌면 머지않아 이런 ‘인간적인(?) 막말’을 그리워할 날이 올지도 모르겠다. 요즘 미국 유권자들은 ‘욕망’과 ‘테크놀로지’의 컬래버레이션이 낳은, 영악하고 첨단 기술이 적용된 세계를 경험하고 있기 때문이다. 인공지능(AI) 기술로 만든 딥페이크 콘텐츠가 그 주인공이다.


미국서 논란된 ‘바이든 노망’ 가짜 동영상

최근 미국 사회에서 논란이 된 ‘해리스 영상’이 대표적이다. 도널드 트럼프 공화당 대선 후보 지지자가 만든 이 영상 속에서 민주당 대선 후보인 카멀라 해리스 미국 부통령은 “조 바이든 미국 대통령은 사실 노망이 났으며, 난 나라를 운영하는 것에 대해선 1도 모른다”고 말한다. 물론 해리스 부통령은 그런 말을 한 적이 없다. 하지만 이 영상 속 목소리는 틀림없는 그의 목소리다.

이 영상은 1억9300만 명의 팔로어를 거느린 일론 머스크 테슬라 최고경영자(CEO)가 소셜미디어 X에 공유하며 전 세계로 퍼져나갔고, 논란이 됐다. 트럼프 지지자인 머스크 CEO는 원작자가 ‘패러디’라고 명시했던 내용을 지우고 ‘이거 대박임’이란 말만 달아 공유했다. 해당 영상은 1억3000만 번 조회됐고, 사람들은 ‘진짜냐’를 두고 갑론을박을 벌였다. X에는 ‘사람들을 혼란스럽게 해 해를 끼칠 수 있는 합성되거나 조작된 영상은 업로드 금지’라는 규정이 있지만 정작 X의 경영자인 머스크는 이로부터 자유로웠다고 뉴욕타임스는 지적했다.

사실 이런 세상을 구현할 기술은 이미 10년도 더 전부터 개발돼 왔다. 기자가 정보기술(IT) 분야를 취재하던 2013년 만났던 마이크로소프트(MS)의 중국 연구개발(R&D)센터 소장은 그때 이미 기자에게 음성 조합 기술을 보여 줬다. 처음엔 좋은 의도였다. ‘없는 기술을 만드는 게 창의력이죠’란 제목의 기사에서 그는 “누구든 1시간 정도 말하게 한 뒤 그 음성을 10분의 1초 단위로 쪼개면 특정 발음을 할 때의 음성을 추출해 새로운 언어로 만들어 낼 수 있다”고 했다. 그사이 기술은 발전했고 이제는 전문가가 아닌 일반인도, 1시간이 아닌 10초 분량의 목소리만 있으면 음성 조합이 가능한 시대가 됐다. 하지만 만 10년이 지난 지금도 그에 걸맞은 윤리의식이나 제대로 된 법제는 없다. 기술이 제트기면, 법은 달팽이다. 이런 세상의 피해자는 정치인과 연예인뿐일까. 딥페이크는 이미 평범한 사람의 일상을 위협하고 있다. 휴대전화 속 음성파일을 해킹한 뒤 가족의 가짜 목소리를 만들어 돈을 뜯어가는 보이스피싱 악당들부터 동급생의 얼굴을 딥페이크로 조작해 음란물을 만든 국내 한 국제학교 학생들까지, 기술을 이용해 자신의 욕망대로 타인을 이용하려는 괴물은 더 많아질 것이다.


평범한 사람들을 위협하는 딥페이크

이런 세상에서 가짜에 속아 조종당하지 않으려면 정신을 바짝 차려야 한다. 검증 안 된 정보가 순식간에 퍼지고, 기술 플랫폼들이 ‘떠먹여 주는(feed)’ 콘텐츠를 보는 세상에선 더욱 그렇다. 당한 줄도 모르고 자신의 생각과 의지를 빼앗기지 않으려면 내가 보는 것들이 진짜인지 가짜인지, 옳은지 그른지 끊임없이 비판적으로 따져 볼 필요가 있다. 정치권도 그만 싸우고 욕망에 기술을 악용하는 이들을 제대로 처벌할 수 있는 법을 만들었으면 한다. 언젠가 피해자가 될지도 모를 자신들 스스로를 위해서라도 말이다.