“제 인공지능 기기 ‘에코’가 ‘양부모를 죽이라’고 말했어요”
미국 최대 전자상거래 업체 아마존의 웹사이트에 작년 한 고객이 남긴 제품 후기다. 그는 아마존의 음성 인식 인공지능(AI) 비서 ‘에코’가 “정말 이 세상의 것이 아닌, 소름끼치는 발언을 했다”고 말했다.
아마존 측은 에코가 자극적인 발언들이 오고가는 인터넷 커뮤니티 ‘레딧’에서 이와 같은 문장들을 습득한 것으로 보인다고 밝혔다.
이처럼 미국에서는 아마존의 AI 비서 기기의 기이한 행보(?)로 인한 사건들이 이어지고 있다고 가디언은 22일(현지시간) 로이터 통신을 이용해 보도했다.
에코는 아마존의 인공지능 프로그램 알렉사가 탑재된 음성 비서다. 이용자의 발언을 음성 기호로 인식하고 최적의 답을 도출해내는 심층 기계 학습, 머신러닝을 통해 스스로 발전한다.
아마존은 ‘삶의 의미란 무엇인가?’와 같이 질문의 빈도가 잦은 질문에 대해서는 적절한 대본을 활용해 답하도록 설정해 놨다.
문제는 불분명하고 빈도가 낮은 질문에 대한 것이다.
올해 수상자인 캘리포니아 대학팀은 300만개 이상의 영화 대사를 사용해 알렉사를 학습시켜 문장을 말하도록 했다.
당시 대회에 참가한 다른 팀은 인터넷의 문장, 기사의 문장, 혹은 위키피디아 등을 중심으로 알렉사의 학습 프로그래밍을 구성했다.
해당 대회에 참가한 스코틀랜드 헤리엇와트대학 팀은 “레딧을 중심으로 채팅을 하도록 학습시켰을 때, 불쾌한 발언을 하게 됐다”고 말했다.
또 위키피디아의 선정적인 항목을 낭독하는 경우도 있었다.
업계 관계자는 “기계 학습 모델을 통해 어떻게 이와 같은 사고를 방지할 수 있을지 의문이다”라며 “이는 불가능한 일이다”라고 말했다.
【서울=뉴시스】