오픈AI, 챗GPT 이용한 허위선전 공작 처음 적발해 공개

러시아·이란·중국·이스라엘 국가 및 민간이 주도
AI로 글 작성, 번역,편집해 소셜 미디어에 유포
텔레그램 프로그램 해킹, 글 자동 게재하기도

ⓒ뉴시스

인공지능 챗GPT를 운영하는 미 오픈AI사가 30일(현지시각) 자사 인공지능 제품을 사용해 전 세계 여론을 조작하고 국제정치에 영향을 미치려고 시도한 5건의 공작을 적발, 제거했다고 밝힌 것으로 미 뉴욕타임스(NYT)가 보도했다.

오픈AI는 비밀 영향 캠페인 보고서에서 이들 시도가 러시아, 중국, 이란, 이스라엘의 국가 단체와 민간 기업들에 이뤄진 것이라고 밝혔다.

오픈AI 보고서는 인공지능 회사 제품이 온라인 속임수에 활용된 구체적 사례를 처음 밝힌 것이다.

오픈AI사 벤 님모 수석 조사관은 생성형 인공지능을 사용하는 각종 위험 사례에 대한 경고가 이어지는 가운데 온라인 속임수 기술이 어떻게 변하고 있는 지를 보여주려 했다고 밝혔다.

그는 자사 기술을 사용해 정치적 콘텐트를 생성한 사례가 많지만 특정 선거나 특정 인물을 공격한 사례는 찾지 못했다면서 인공지능을 사용했어도 조회 수가 많지 않았다고 덧붙였다.

반면 대서양위원회 디지털포렌식연구실 그레이엄 브루키 선임 이사는 생성형 인공지능의 발전에 따라 이를 사용한 온라인 허위선전도 갈수록 강력해지고 있다고 경고했다.

오픈AI는 자사 제품으로 생성한 반 우크라이나 메시지가 영어, 프랑스어, 독일어, 이탈리아어, 폴란드어로 X에 올라왔다고 밝혔다. 또 우크라이나 전쟁과 관련 러시아를 지지하는 기사를 영어와 프랑스어로 번역, 편집해 반-우크라이나 기사로 변환하는데 오픈 AI 인공지능을 사용한 글이 페이스북에 올라왔다고 공개했다.

그밖에도 우크라이나, 몰도바, 발트해 국가, 미국을 공격하는 캠페인이 텔레그램에서 진행된 것도 처음 공개했다. 우크라이나 전쟁 및 몰도바와 미국의 정치상황과 관련한 글을 인공지능을 사용해 러시아어와 영어로 생성했다는 것이다. 또 오픈AI 인공지능을 사용해 컴퓨터 프로그램을 해킹함으로써 텔레그램에 글이 자동적으로 올라가도록 한 사실도 공개됐다.

중국이 시도한 것으로 보이는 스팸 공작에도 오픈AI 제품을 이용해 프로그램을 해킹하고 소셜 미디어 분석과 현 상황 조사 방법을 구한 것으로 드러났다. 중국 정부에 비판적인 사람들을 공격하는 소셜 미디어 글도 오픈AI 제품을 사용해 만들었다.

국제가상미디어연맹이라는 이름의 단체가 주도한 이란의 공작은 오픈AI 제품을 사용해 긴 기사를 번역하고 제목을 달아 친이란, 반이스라엘, 반미 감정을 웹사이트에 유포한 것으로 보고서는 밝혔다.

이스라엘의 공작은 정치 홍보 회사가 주도했다. 이 회사는 오픈AI 제품을 사용해 가상인물을 실존인물로 위장해 이스라엘, 캐나다, 미국의 소셜 미디어 계정을 만들고 반 이스라엘 메시지에 댓글을 달았다.

[서울=뉴시스]