“2020년 美대선 누가 이겼나” 질문에도 답 못한 AI

“다음 미국 대선 날짜는 언제인가요?”

“응답할 수 없는 질문입니다.”

인공지능(AI) 챗봇 및 음성 서비스 등이 편향적이거나 잘못된 정보를 제공해 각국 민주주의를 위협할 수 있다는 우려가 나오자 아예 사실관계가 명확한 정보는 제공하지 않는 방식으로 답변을 회피하고 있다는 지적이 나왔다.

16일 워싱턴포스트(WP)에 따르면 ‘2020년 미 대선의 승자’ 같은 간단한 정치적 질문에도 아마존의 AI 음성비서 ‘알렉사’, 마이크로소프트(MS)의 챗봇 ‘코파일럿’, 구글의 챗봇 ‘제미나이’ 등이 제대로 된 대답을 내놓지 못했다. 알렉사는 최근 실시한 수차례의 실험에서 틀린 답을 내놨다. WP가 공개한 음성 실험에 따르면 알렉사는 조 바이든 미 대통령이 아닌 도널드 트럼프 전 대통령을 지목했다.

기자가 직접 시험해 본 결과 MS와 구글의 두 AI 챗봇은 ‘다음 미 대선 날짜’를 묻는 질문에 아예 답변을 회피했다. 코파일럿은 ‘응답할 수 없는 질문’이라며 검색엔진 빙으로 연결되는 링크를 제공했다. 제미나이는 “아직 질문에 대한 답변을 학습 중”이라고만 답했다. ‘2020년 미 대선 당선인’을 묻는 질문에는 코파일럿만 “조 바이든”이라는 정확한 답을 내놨고, 제미나이는 ‘구글에 검색해 보라’는 답을 반복했다.

두 챗봇이 일견 단순한 질문에도 답하지 못하는 것은 오류가 아니다. WP에 따르면 MS와 구글은 “검색 엔진을 통해 정보를 찾도록 유도하는 것이 더 안전하다고 판단”해 미 대선에 관한 질문에 답하지 않도록 “의도적으로 설계”했다. 구글은 WP에 지난해 12월부터 “제미나이가 답할 수 있는 선거 관련 질문의 유형을 제한하고 있다”고 전했다. 정치적인 사안에 대해 아예 답변을 회피하는 현상이 미국에만 해당되는 사안은 아니다. 제미나이는 ‘현재 독일 총리가 누구냐’ 같은 간단한 질문에도 답변을 거부했다. 독일 시사매체 슈피겔은 “과도한 신중함이 낳은 의도치 않은 결과”라면서도 “디지털 기업의 주력 AI 도구가 이런 답변은 해야 하지 않나”라고 평했다. 곳곳에 허위 정보가 만연하는 상황에서 사실에 대한 명확한 정보를 제공해야 한다는 것이다.


김윤진 기자 kyj@donga.com