구글의 새로운 검색 기능 ‘인공지능 오버뷰(AI Overview)’가 ‘미국에 얼마나 많은 무슬림 대통령이 있었는가’라는 질문에 내놓은 답변이다. 구글은 14일부터 자사 생성형 AI ‘제미나이’를 검색 엔진에 본격 적용해 사용자의 검색에 요약된 답변을 미리보기처럼 내놓고 있다.
결론부터 말하면 해당 답변은 사실이 아니다. 버락 오바마 전 대통령 재임 시절 반대파들이 그의 중간이름이 ‘후세인’인 점과 결부시켜 퍼트렸던 허위정보를 답변으로 제시한 것이다. 오바마 전 대통령의 종교는 기독교이지만 케냐인 아버지로부터 물려받은 후세인이라는 중간이름 때문에 일부 미국인들은 그를 무슬림으로 오해하고 있다.
24일 미 정보기술(IT) 전문매체 더버지 등에 따르면 최근 X(옛 트위터) 등 미 소셜미디어에선 AI 오버뷰의 잘못된 답변이 논란이 되고 있다. 사용자가 ‘하루에 몇 개의 돌을 먹어야 하나’라고 검색하자, AI 오버뷰는 “UC 버클리의 지질학자들에 따르면 하루에 최소 하나를 먹어야 한다”며 “돌은 소화기에 필수적인 미네랄과 비타민을 함유하고 있다”고 답했다.
구글 측은 “흔하지 않은 질문에 따른 답변 예시”라며 “회사 정책에 따라 특정한 질문을 제거하면서 신속한 조치를 취하고 있다”고 설명했다. 현재 구글에서 오바마 전 대통령 등 사례에는 AI 오버뷰 답변이 나오지 않고 있다.
구글이 ‘AI 판 뒤집기’를 위해 야심차게 선보인 AI 검색 기능이 잘못된 답변을 내놓으면서 일각에선 시기상조였다는 지적도 나온다. 더버지는 “기술이 준비되기 전에 너무 일찍 실제 사용에 들어갔을 수 있다”고 지적했다. 미 CNN방송은 “AI가 자신 있게 허위정보를 진술하는 모습은 구글의 명성을 훼손할 위험성을 보여준다”고 전했다.
이기욱 기자 71wook@donga.com