“펜타곤 대형 폭발” AI가 만든 ‘조작 사진’에 美증시 요동

SNS 등에 허위 사진 올라오자
러 선전매체도 트위터에 게시물
美 증시-금-국채가격 한때 출렁
‘AI 거짓 정보에 시장 혼란’ 현실로

허위로 판명된 ‘펜타곤 화재’ 22일(현지 시간) 미국 수도 워싱턴의 국방부 청사 ‘펜타곤’이 화재로 검은 연기에 휩싸인 듯 보이는 이미지가 소셜미디어에 급속도로 퍼져 미 증시가 출렁였다. 이 이미지는 생성형 인공지능(AI)으로 만든 조작된 사진인 것으로 드러났다. 트위터 캡처

인공지능(AI)이 만들어낸 미국 국방부 청사(펜타곤) 화재 사진이 온라인에 빠르게 퍼지며 미 주식시장이 출렁이는 등 큰 소동이 일었다. 최근 AI를 이용한 거짓정보 확산이 민주주의를 위협할 수 있다는 우려가 커지는 가운데 AI가 생성한 가짜 이미지가 시장에까지 영향을 미친 첫 사례다. 미 국방부가 “사진이 조작된 것”이라며 진화에 나서 가까스로 봉합됐지만 AI의 부작용이 언제든 현실화될 수 있음을 확인시켜준 사건이었다.

● 가짜 펜타곤 화재 사진에 美증시 출렁

블룸버그통신 등에 따르면 22일(현지 시간) 오전 9시를 전후로 미 수도 워싱턴에 있는 펜타곤으로 보이는 건물에서 검은 연기가 피어오르는 사진이 트위터를 통해 국내외로 빠르게 확산했다. 펜타곤과 닮은 직사각형 건물 주변에서 검은 연기 기둥이 치솟는 모습은 2001년 발생한 9·11테러 당시 공격을 받은 펜타곤의 모습을 떠올리게 했다.

미 NBC뉴스에 따르면 이 사진은 트위터 유료 계정에서 이날 오전 8시 42분경 처음 게시됐다. 이후 트럼프 지지 성향의 극우 음모론 단체인 큐어넌과 연관된 페이스북 계정에서도 같은 사진이 올라왔다.

얼마 뒤인 오전 10시 3분경 팔로어가 310만 명인 러시아의 해외 선전매체 RT의 트위터 계정에 “펜타곤 근처에서 폭발이 있었다”는 게시물이 올라왔다. 3분 후에는 블룸버그뉴스를 사칭한 블룸버그피드(bloombergfeed) 트위터 계정에서 “펜타곤 근처에서 큰 폭발”이란 제목으로 해당 사진을 유포했다. 160만 명이 팔로하는 금융뉴스 사이트 제로헤지도 이 가짜 사진을 공유했다. 해당 계정에는 공식 계정임을 확인해주는 트위터 인증마크인 ‘파란 딱지’까지 달려 있었다. 급기야 인도의 방송사인 리퍼블릭 TV가 RT를 인용해 펜타곤 근처에서 폭발이 일어났다고 보도했다.

펜타곤이 있는 버지니아주 알링턴 소방서가 “펜타곤이나 근처에서 폭발이나 사고는 없었다”고 알린 뒤에야 소란은 진정됐다. 디지털 포렌식 전문가인 해니 파리드 버클리 캘리포니아대 교수는 “이 이미지는 AI가 합성한 전형적 특징을 보여준다”며 “건물과 펜스에 구조적 오류가 있고 누군가 기존 사진에 연기를 추가한 것”이라고 트위터를 통해 지적했다.

조작된 사진 소동이 벌어지는 동안 미 주식시장은 출렁였다. CNN에 따르면 다우존스30 산업평균지수는 오전 10시 6∼10분 약 80포인트 하락했다가 3분 후 회복했다. 스탠더드앤드푸어스(S&P)500지수도 오전 10시 9분에 0.15% 하락으로 반전했다가 2분 뒤 오름세를 되찾았다. 금·국채 가격도 한때 크게 움직였다.

‘백악관 폭발’도 조작 최근 미국 소셜미디어에 미 백악관 건물에서 폭발이 일어난 듯 보이는 사진이 등장했다. 인공지능(AI)이 만든 이미지임을 경고하기 위해 이 사진 위에 ‘거짓(fake)’이라는 글자를 넣은 새로운 합성 사진도 돌고 있다. 트위터 캡처

가짜 펜타곤 화재 사진이 퍼진 뒤 온라인에는 이를 모방해 백악관이 불타는 이미지도 퍼졌다. 다만 이미지가 조악해 펜타곤 이미지만큼의 파급력은 없었다.

● AI 허위정보에 민주주의 위협 현실화

펜타곤과 백악관 화재 사진이 거짓임이 밝혀지자 이 사진들을 퍼뜨린 RT 등 트위터 계정은 뒤늦게 게시물을 삭제하거나 정정했다. 하지만 이미 수백 건이 공유된 상태였다. 조작된 펜타곤 사진을 게시한 트위터의 유료 계정인 블룸버그피드는 이날 운영이 중단됐다. 인도 리퍼블릭 TV는 사과 방송을 했다.

AI가 만든 허위정보가 논란이 된 건 이번이 처음이 아니다. 3월엔 도널드 트럼프 전 미국 대통령이 수갑을 차고 연행되는 조작된 이미지가 퍼져나가 논란을 빚었다. 아일랜드 매체인 ‘아이리시 타임스’는 11일 AI가 쓴 가짜 기고문을 걸러내지 못하고 게재했다가 공개 사과했다.

내년 미 대선 등을 앞두고 AI를 악용한 거짓정보나 이미지가 민주주의에 심각한 위협이 될 것이란 목소리가 높다. 샘 올트먼 오픈AI 최고경영자(CEO)는 16일 미 의회 청문회에서 “AI가 거짓정보를 제공해 여론을 조작하거나 움직일 수 있다는 점이 심각하게 우려된다”며 AI 규제 기구 설립을 강조했다.