셔터스톡
중국이 세계 주요국 가운데 처음으로 ‘딥페이크’ 기술을 규제한다.
8일 미국 월스트리트저널(WSJ)는 중국 국가사이버정보판공실(CAC)이 10일부터 ‘인터넷 정보 서비스 딥 합성 관리 규정’을 시행한다고 보도했다. 인공지능(AI) 기술을 이용해 인물 사진이나 영상, 오디오를 합성하는 딥페이크 기술로 허위 정보를 퍼뜨리거나 범죄 등에 이용하는 것을 막겠다는 취지다. 최근 몇 년 새 딥페이크 기술의 악의적 사용에 따른 피해가 잇따르며 국내외에서 이에 대한 규제 논의가 한창이다.
WSJ에 따르면 이 규정은 대표적으로 ‘가짜 뉴스’나 경제 및 국가안보를 어지럽힐 것으로 예상되는 정보 확산을 위해 AI가 만들어낸 콘텐츠 사용을 금지한다. 딥페이크 기술을 사용해 콘텐츠를 만들 때는 콘텐츠에 ‘딥페이크 기술이 사용됐다’는 사실을 적시해야 하고, 원본을 추적할 수 있도록 디지털 표식(워터마크)을 넣도록 했다. 딥페이크 기술로 누군가 이미지나 목소리를 합성해 편집하려고 할 때는 당사자 동의를 구해야 한다. 또 언론 보도에서 딥페이크 기술을 사용할 때는 정부가 승인한 매체 원본만 활용할 수 있게 했다.
다만 트리올로는 “신기술이 유발하는 문제 해결을 위해 다른 나라에서 하지 않은 조치를 중국이 시도하고 있다”며 긍정적인 측면도 있다고 말했다. 미국에서는 딥페이크 규제 시도가 언론 자유를 침해할 우려 때문에 진전을 보이지 못하고 있다. 유럽연합(EU)에서는 플랫폼 기업들에 딥페이크 기술의 허위정보 확산 능력을 완화하는 방법을 찾도록 강력히 권고할 뿐 중국처럼 아예 금지하지는 않고 있다. 트위터 페이스북 등 소셜미디어는 최근 딥페이크를 활용한 허위정보를 가려내는 규정을 도입했다.
이청아 기자 clearlee@donga.com