“가짜사진 만드는데 딱 5초”…AI 이용한 불법유포 무분별 확산

생성형 인공지능이 만들어 낸 도널드 트럼프 전 미국 대통령의 가짜 모습. 사진 출처 해당 AI 웹사이트

‘5초.’

도널드 트럼프 전 미국 대통령이 여성 테니스복을 입고 테니스를 치는 가짜 사진이 한 웹사이트에서 만들어지는데까지 걸린 시간이다. 13일 생성형 인공지능(AI)을 이용한 ‘가짜 이미지’ 생성 웹사이트에서 영문으로 단어 몇 개를 입력하자 마치 진짜로 벌어진 상황을 촬영한 것 같은 트럼프 전 대통령의 사진이 순식간에 생성됐다.

팔레스타인 무장단체 하마스가 이스라엘을 기습 공격한 이후 소셜네트워크서비스(SNS)에는 이런 생성형 AI가 만들어낸 이미지나 동영상이 첨부된 가짜 정보가 무분별하게 확산하고 있다. 이런 가짜 사진과 영상을 일반인들도 쉽게 만들어 유포할 수 있어 대책 마련이 시급하다는 지적이 나온다.

● SNS에 판치는 가짜 사진, 대부분 AI가 만들어

하마스 기습 공격 직후인 8일 자신을 BBC 소속 기자라고 소개한 베노라 마크 씨는 X(옛 트위터) 계정에 ‘이스라엘, 하마스 전쟁 소식’이라며 미군 전투기가 항공모함 위에서 출격을 기다리고 있는 영상과 비디오 게임 영상 등을 현지 상황인 것처럼 합성해 올렸다. 실존하지 않는 인물로 밝혀진 마크 씨의 SNS 프로필 인물 사진은 파키스탄 방송인 로하 나딤 씨의 사진을 AI로 합성해 만든 가짜로 드러났다. 현재 해당 계정은 X 측에 의해 일시 정지된 상태다.

13일에는 하마스가 이스라엘 영아를 불태웠다는 사체 사진이 SNS에 떠돌기도 했다. 해외 누리꾼들은 AI 생성 사진의 진위를 식별해주는 온라인 사이트를 통해 해당 사진을 검증한 결과 AI가 생성한 가짜 사진이라고 판별하기도 했다.

이 밖에도 지난해 3월엔 볼로디미르 젤렌스키 우크라이나 대통령이 러시아에 항복을 선언하는 모습을 담은 가짜 영상과 올 3월 트럼프 전 대통령이 뉴욕 경찰에 체포되는 가짜 이미지가 SNS에 퍼졌다. 최근엔 미국 유명 영화배우 톰 행크스가 자신이 출연하지 않은 치과 보험 광고 허위 영상에 대해 주의를 당부하는 영상을 올리는 등 유명인에 대한 사칭도 계속되고 있다.

● 음란물 생성해도 솜방망이 처벌

심지어 생성형 AI를 활용한 음란물까지 생겨났다. AI로 가상 모델을 만들어 SNS에 음란물 사진을 공유해 수익을 창출하는 계정이 우후죽순 늘어나고 있다. 인스타그램의 한 AI 생성 가짜 모델 계정에는 “69달러를 내면 은밀한 사진을 공개한다”며 금액별로 노출 수위를 구분하는 안내문까지 버젓이 올라와 있었다.

기존의 딥페이크는 서로 다른 사진과 영상을 단순히 합성하는 수준에 그쳤다면 생성형 AI를 활용한 가짜 이미지나 영상은 수많은 이미지를 반복 학습해 실사에 가깝게 만들 수 있어 한층 정교화됐다.

하지만 이런 음란물을 제작하더라도 솜방방이 처벌에 그치는 게 현실이다. 김명주 서울여대 정보보호학과 교수는 “실제로 존재하는 인물이 아니라 가상 인물을 만들어 음란물을 제작할 경우 경범죄 수준의 처벌밖에 할 수 없다”며 “실제로 명예훼손이나 성범죄 피해를 입은 사람이 없기 때문”이라고 지적했다. 또, 이런 영상이나 사진 작성자를 찾아내기 어렵다는 한계도 있다.

고도화된 생성형 AI를 활용해 만들어 낸 허위 이미지에 대해 구체적으로 규정할 필요가 있다는 지적도 나온다. 최경진 가천대 법학과 교수는 “향후 기술이 발전해 AI가 인간의 구체적인 지시 없이도 다양한 사람들에 대한 이미지를 자동으로 생성할 수도 있다”며 “생성형 AI를 범죄 목적으로 악용할 경우 처벌할 수 있는지 사회적 합의가 필요하다”고 말했다.