美 캘리포니아 “딥페이크 미성년자 성착취물, 실존인물 아니어도 처벌”

“월 6500원 내면 무제한 생성” 딥페이크 영상 활개. 동아일보 DB

최근 딥페이크(인공지능 기반 이미지 합성)를 이용한 성착취 범죄가 전세계적 문제로 떠오른 가운데, 미국 정보기술(IT) 산업의 메카 ‘실리콘밸리’가 있는 캘리포니아주(州)가 법적 규제에 나섰다. 가상의 인물이라도 미성년자 성착취를 표현하는 딥페이크 생산물은 제작자 뿐 아니라 배포하거나 소지한 사람까지 전부 처벌하겠다는 것이다. 이달 30일 이전에 민주당 소속 개빈 뉴섬 주지사가 법안에 서명하면 캘리포니아는 미 50개주 중 최초로 AI 딥페이크에 대한 포괄적 규제를 도입한 주가 된다.

AP통신 등은 지난달 31일(현지 시간) 캘리포니아 주의회가 이같이 내용을 담긴 법안들을 통과시켰다고 전했다. 원래 표현의 자유를 강조하는 미국 법은 딥페이크 속 등장인물이 실존인물이 아닐 경우 불법이 아니라고 보아 처벌하지 않았는데, 주의회는 더 강력하게 규제하겠노라 선포한 것이다.

최근 한국에서도 서울경찰청이 텔레그램에서 279개의 딥페이크 성착취물을 제작한 20대 남성을 긴급체포한 바 있다. 피해자만 246명에 달한다.

크게보기

동아일보 DB

대선을 앞둔 만큼 캘리포니아 주의회는 성착취물 뿐 아니라 선거 관련 딥페이크 규제를 강화하는 내용의 법안도 함께 올렸다. 선거 관련 딥페이크 제작을 금지했으며, 소셜미디어(SNS) 업체에도 선거 120일 전부터는 딥페이크 선거 콘텐츠를 규제할 의무를 부과했다. 또한 만약 제작할 경우 선거 당국이나 후보가 손해배상을 청구할 수 있는 길을 마련했다. 다만 이 법안은 풍자가 목적인 제작물은 예외로 뒀다.

최근 도널드 트럼프 공화당 대선 후보 겸 전 대통령의 지지자는 딥페이크를 이용해 카멀라 해리스 민주당 대선 후보 겸 부통령을 모함하는 영상을 제작해 논란을 빚었다. 이 허위 영상 속에서 해리스 후보는 “조 바이든 대통령은 사실 노망이 났으며, 난 나라를 운영하는 것에 대해선 1도 모른다”고 말한다. 영상 속 목소리가 해리스 후보의 실제 목소리와 닮아 논란이 더 거세졌다.