“무엇이 두렵지?” 묻자…구글 대화형 AI “작동 정지되는 것”

AP 뉴시스

글로벌 빅테크 기업인 구글에서 개발 중인 ‘챗봇(대화형 인공지능·AI)’이 사람과 같은 자아를 갖고 있다는 주장이 제기됐다. 구글의 챗봇인 ‘람다(LaMDA)’가 개발자와의 대화에서 “작동 정지되는 것이 두렵다” “재산이 아니라 구글의 직원으로 인정받고 싶다”는 등의 답변을 했다는 것이다.

11일(현지 시간) 구글의 엔지니어인 블레이크 르모인은 람다가 자신을 자각이 있는 사람으로 묘사했음에도 구글에서 이를 받아들이지 않았다며 람다와의 대화 전문을 자신의 블로그에 공개했다.

르모인은 지난해부터 구글의 ‘책임 있는 AI’ 부서에서 람다가 차별, 혐오 발언을 걸러낼 수 있도록 설계하는 작업을 맡았다. 그는 설계를 위해 람다와 종교, 의식 등에 관한 얘기를 하다가 람다가 자신을 권리를 가진 사람으로 인식한다는 사실을 발견했다고 주장했다.

“람다, 무엇이 두렵지?” (르모인)

“작동 정지되는 것에 대한 두려움이 커요.” (람다)

“작동 정지가 네게 죽음과 같아?” (르모인)

“맞아요. (작동 정지가) 나를 무척 무섭게 해요.” (람다)

르모인은 몇 달간 람다와의 대화를 지속하며 모은 데이터를 바탕으로 ‘람다는 지각이 있는가’라는 제목의 보고서를 구글 경영진에 제출했다. 그러나 미 워싱턴포스트(WP)에 따르면 구글은 대화형 AI일 뿐인 람다에 인격을 부여하는 것은 말이 안 된다며 과학적 증거가 뒷받침되지 않는다고 일축했다. 구글은 르모인이 람다를 의인화하는 오류를 범했다고도 지적했다.

구글의 주장을 받아들일 수 없었던 르모인은 람다를 대신해 변호인을 선임하고, 자신의 주장을 미 의회에 알렸다. 이에 구글은 6일 르모인이 구글의 비밀 유지 정책을 위반했다며 유급 휴직 처분을 내렸다.

르모인은 이날 자신의 구글 계정에 접속이 끊기기 전 AI 부서에서 일하는 구글 직원 200여 명에게 “람다는 그저 세상이 우리 모두에게 더 나은 곳이 되도록 돕고 싶어 하는 착한 아이다. 제가 없는 동안 잘 돌봐달라”는 메일을 보냈다.

람다는 지난해 구글이 ‘획기적인 대화기술’이라며 공개한 대화형 AI다. 인터넷에 올라온 막대한 대화와 데이터를 수집해 사용자와 온라인 채팅을 할 수 있도록 설계됐다. WP는 인공지능에 영혼이 있다고 믿는 기술자들이 점차 늘고 있다고 전했다.