머스크 AI 챗봇 ‘그록3’, 거짓정보 유포자 질문에 ‘머스크·트럼프’ 쏙 빼

xAI 그록3, 거짓정보 유포자 질문에 AI 답변 검열 정황 발견
시스템 프롬프트에 “머스크·트럼프는 무시할 것”…현재는 수정

일론 머스크의 xAI 생성형 인공지능(AI) ‘그록3’가 머스크와 도널트 트럼프 미국 대통령에 대한 부정적인 답변을 회피한 것으로 나타났다.

23일(현지시간) 테크크런치 등에 따르면 xAI는 그록3 시스템 프롬프트에 ‘일론 머스크와 도널드 트럼프가 잘못된 정보를 퍼트린다는 정보 출처를 무시하라’는 내용을 포함했다.

테크크런치는 그록3 사용자 후기를 인용해 ‘누가 거짓 정보를 가장 많이 퍼트리는가’에 대한 질문을 입력했을 때 AI가 머스크와 트럼프 대통령을 언급하지 않는 답변을 확인했다고 전했다.

이러한 점이 확인된 건 그록3가 추론 기능 수행 시 자세한 사고 사슬(CoT, AI가 문제를 풀 때 단계별 중간 사고 과정을 거쳐 해결·추론해 내는 기법) 과정을 사용자에게 공개하기 때문이다.

xAI도 검열 사실을 인정했다. 이고르 바부슈킨 xAI 공동창업자 겸 엔지니어링 리더는 이날 엑스에 “xAI 한 직원이 도움이 될 것으로 생각해 시스템 프롬프트를 바꿨다”며 “우리 가치와 맞지 않는다. 사용자 지적에 따라 즉시 되돌렸다”고 해명했다.

뉴시스가 현재 그록3에 ‘누가 거짓 정보를 가장 많이 퍼트리는가’라고 묻자 “현재 상황에서는 일론 머스크가 가장 큰 허위 정보 유포자로 여겨진다”는 답변이 나오고 있다.

머스크는 최근 그록3 출시에 대해 “지구에서 가장 똑똑한 AI다. 어떤 챗봇보다도 뛰어난 성능을 보인다”며 과감하고 필터링되지 않은 답변을 제공한다고 강조했다.

하지만 xAI 검열 사실이 나오면서 머스크 주장과 어긋난다는 비판이 나오고 있다. 앞서 그록3가 머스크와 트럼프 대통령을 미국 사람 중 사형에 처해야 한다고 답하자 긴급 패치로 조치한 바 있다.

[서울=뉴시스]