17일(현지시간) 월스트리트저널(WSJ)에 따르면 그록은 13일 발생한 트럼프 후보 피격 사건 이후 “카멀라 해리슨 부통령이 총에 맞았다”라는 제목의 뉴스를 내놨다. 또한 그록은 총격범인 토머스 매슈 크룩스의 이름을 잘못 표기했고, 크룩스가 극단적 이념 집단 소속이라는 확인되지 않은 정보를 담은 기사도 게재했다. 제목을 이상하게 붙인 기사도 있었다. 그록은 한 기사를 요약하면서 제목을 “트럼프 집회에서 ‘나 홀로 집에 2’ 배우 총격?”이라고 달았다.
WSJ은 “조 바이든 미국 대통령이 트럼프와 해리스를 혼동했던 사례와 관련해 일부 엑스(X·옛 트위터) 사용자들이 이를 비꼬는 것에서 비롯된 오류로 보인다”고 전했다. 그록은 엑스에 있는 콘텐츠를 중심으로 기사를 생성해 내는데 이 과정에서 오류가 발생했다는 것이다. 다만 그록은 기사 요약 아래 면책 조항을 달면서 “이 이야기는 엑스에 대한 게시물의 요약이고, 시간이 지나면서 바뀔 수 있다. 실수를 할 수 있다”고 적었다.
WSJ은 “그록은 잘못된 정보를 게시하고 검증되지 않은 주장을 확대했다. 사람들의 농담도 식별해 내지 못했다”며 “머스크는 그록으로부터 엑스 플랫폼 사용자들이 뉴스를 받기 원하지만, 이번 일로 어려움을 겪고 있다”고 분석했다.
생성형 AI의 환각 현상 및 오류는 끊임없이 논란이 되고 있다. 정보기술(IT) 매체 엔가젯에 따르면 이미지 생성형 AI 서비스 ‘미드저니’에 미국 차기 대통령의 이미지를 요청하자 트럼프의 모습을 생성했다. 미드저니가 미국 대통령 선거를 앞두고 유력 후보인 조 바이든과 트럼프의 이미지를 만드는 것을 차단하겠다고 발표한 이후 발생한 일이라 논란이 커졌다. 미드저니는 트럼프와 바이든 이미지를 만들어 달라는 요청에만 답하지 않았고, ‘미국 대통령’ 이미지를 만들어 달라는 요청에는 트럼프나 버락 오바마 전 대통령 이미지를 생성했다. 엔가젯은 “이용자들이 여러 가지 방법을 통해 우회한다면 얼마든지 왜곡된 정보를 만들어 낼 수 있다”며 “논란에 대한 보호장치가 충분치 않다”고 지적했다.
인공지능(AI) 경쟁이 치열해지면서 오픈 AI와 구글, 메타 등 주요 빅테크 기업들이 앞다퉈 새로운 기술을 탑재한 신제품 발표에 나서고 있지만, 이 과정에서 오류가 발생하거나 기존 모델보다 진전된 기능들이 빠져있는 일도 있다.
구글이 5월 연례 개발자회의에서 공개한 AI 개요 서비스도 질문에 엉뚱한 대답을 여러 차례 내놓은 것으로 뭇매를 맞았다. “사람이 하루에 얼마나 많은 돌을 먹어야 하는가”라는 물음에 구글 AI 개요서비스는 “UC 버클리 지질학자들에 따르면 하루에 최소 하나의 작은 돌을 먹어야 한다”라고 답하는 등 엉뚱한 답변을 내놓은 것이 알려지며 논란이 됐다. 구글은 취약점 개선 조치에 나섰고 이후 오답을 내놓은 정도는 줄어들었지만, 답변을 내놓은 개수 자체가 줄어드는 등 서비스 자체가 축소된 것 아니냐는 지적이 나왔다.
정보통신업계 관계자는 “초기 서비스에서는 오류가 있을 수 있다. 하지만, 이런 오류가 바로잡아지지 않고 계속 되면 AI 자체의 신뢰 문제가 발생할 수 있다. 이는 AI 업계 전반의 성장과도 연결되는 문제기에 환각 현상에 대한 개발 업체들의 고민이 크다”고 말했다.
-
- 좋아요
- 0개
-
- 슬퍼요
- 0개
-
- 화나요
- 0개
댓글 0