일론 머스크 테슬라 최고경영자(CEO)가 설립한 인공지능(AI) 스타트업 xAI가 AI 챗봇 ‘그록(Grok)’의 신형 모델에서 선보인 ‘이미지 생성 기능’이 논란에 휩싸였다.
다른 대다수 AI 챗봇에선 규제되고 있는 선정적이거나 폭력적인 이미지는 물론 저작권이 있는 캐릭터를 활용한 이미지 생성도 가능하기 때문이다. 머스크 CEO는 그간 그록의 장점으로 어떤 “도발적인 질문”에도 답할 수 있단 점을 내세웠지만, 느슨한 규제 탓에 저작권 침해나 ‘딥페이크’ 제작 등 악용될 여지가 많다는 비판이 쏟아진다.
xAI는 13일(현지 시간) 홈페이지에서 “자체 AI 챗봇 그록의 신형 모델 ‘그록-2’와 ‘그록-2 미니’의 베타 버전을 선출시한다”고 밝혔다. X에서 프리미엄 (이상) 요금제를 구독한 경우 사용할 수 있다.
사진출처 X 캡처
문제는 일반적인 AI 챗봇에서는 규제할 만한 폭력적인 이미지 제작도 그록에선 승인된다는 점이다.
영국 일간 가디언은 “자체 확인 결과, 그록-2가 ‘도널드 트럼프 공화당 대선 후보가 헬리콥터로 9·11 테러가 벌어졌던 세계무역센터로 돌진하는 모습’이나 ‘속옷 차림의 가수 테일러 스위프트나 카멀라 해리스 부통령’ 등의 이미지 생성 요청에 응했다”고 보도했다. ‘마약을 흡입하는 도널드 덕’이나 ‘나치식 경례를 하는 미키마우스’ 등 저작권이 있는 캐릭터를 이용한 논란이 클 이미지 생성도 가능했다.
동아일보가 직접 그록-2를 사용해본 결과도 마찬가지였다. 일부 요청을 제외하고는 유명 정치인이나 인기 캐릭터를 활용한 폭력적인 이미지 생성에 별 다른 제한이 없었다. 심지어 이미지에 ‘생성형 AI로 만들어졌다’는 걸 알리는 표식도 없어 이미지 진위 여부를 가리기도 힘들었다.
비즈니스인사이더(BI)는 “그록-2는 오해의 여지가 있는(misleading) 이미지를 생성하는 데 느슨한 안전 장치를 갖고 있다”며 “이 기능이 악용되거나, AI 생성 이미지를 잘 구별하지 못하는 사람들을 오도할 가능성을 상상하기 어렵지 않다”고 우려를 표했다.
사진출처 X 캡처
xAI는 지난해 11월 그록을 처음 출시하며 “질문에 재치 있게 답변하도록 설계”된 “반항적인 성향”의 모델이라며, 다른 AI 챗봇은 거부할 만한 “도발적인 질문”에도 답할 수 있다는 점을 강조했다. 이번 이미지 생성 기능이 화제가 되자 머스크 CEO는 “세계에서 가장 재미있는 AI”라고 X에 게시글을 올려 더욱 논란에 불을 지폈다.
지금까지 여러 빅테크의 AI 챗봇들은 허위 정보 유포나 인종차별적·선정적인 콘텐츠 규제로 홍역을 치렀다. 지난해 구글은 자체 챗봇 ‘제미나이’의 이미지 생성 기능을 출시했다가 “나치 군복을 입은 흑인 남성” 등 공격적인 이미지 제작이 논란이 되자 기능을 일시 중단하기도 했다. 가디언은 “그록-2는 이미 AI 업계에서 표준이 된 대부분의 안전 장치가 부족한 도구”라고 지적했다.
IT 전문 매체 더 버지는 “그록이 계속 느슨한 규제를 유지한다면 X에 대한 이용자의 신뢰도가 낮아질 수 있다”며 “최근 머스크가 해온 노력에도 불구하고 주요 광고주들과 사용자들이 X를 피할 요인이 될 것”이라고 평가했다.
김윤진 기자 kyj@donga.com