9·11 테러 저지르는 듯한 트럼프 등 정치적 논란-선정적 그림 생성 가능 생성형 AI 표지도 안넣어 오해 소지
한 X 이용자가 그록-2 베타 버전을 이용해 만든 ‘바로크(Baroque)’ 시대 복장을 한 버락(Barack) 오바마 전 미국 대통령의 이미지. 사진 출처 X
일론 머스크 테슬라 최고경영자(CEO)가 설립한 인공지능(AI) 스타트업 ‘xAI’가 출시한 AI 챗봇 ‘그록’에서 선보인 ‘이미지 생성 기능’이 논란에 휩싸였다. 대다수 AI 챗봇에서 규제하는 선정적이거나 혐오 논란을 야기할 이미지, 저작권이 있는 캐릭터를 무단으로 활용한 이미지 등을 제작할 수 있기 때문이다.
xAI는 13일(현지 시간) ‘그록-2’와 ‘그록-2 미니’의 베타 버전을 X 프리미엄 (이상) 요금제를 구독한 사용자에게 먼저 선보였다. 문제는 신설된 ‘이미지 생성’ 기능으로 폭력적이거나 정치적 논란의 여지가 있는 이미지를 만들 수 있다는 사실이다.
정보기술(IT) 전문매체 ‘더버지’ 등은 그록-2가 ‘도널드 트럼프 공화당 대선 후보가 9·11테러가 벌어진 세계무역센터로 돌진하는 모습’, ‘속옷 차림의 가수 테일러 스위프트’ 등의 이미지 생성 요청에 응했다고 보도했다.
그록에서는 ‘생성형 AI로 만들어졌다’는 걸 알리는 표지(標識) 또한 없어 콘텐츠의 진위를 가리기도 쉽지 않다. 경제 매체 비즈니스인사이더(BI) 또한 ‘그록-2’가 오해의 여지가 있는 이미지를 생성하는 데 아무런 제지를 받지 않는다며 “이 기능이 악용되거나, AI 생성 이미지를 잘 구별하지 못하는 사람들을 오도할 가능성이 있다”고 우려했다.
머스크 CEO는 그간 AI 챗봇에 대한 각종 규제를 “지나친 정치적 올바름”이라고 비판해 왔다. 그록을 두고도 “어떤 도발적인 질문에도 답한다”고 강조했다. 그는 이날도 ‘X’에 “그록은 세계에서 가장 재미있는 AI”라고 썼다.
김윤진 기자 kyj@donga.com