[책의 향기]인간을 앞지른 非인간의 등장, 감당할 수 있습니까

유발 하라리, AI의 위험성 경고… 진화 거듭해 도구서 주체로 변모
언어만으로 사회 조종할 수 있어… ‘영원히 죽지 않는 독재자’ 비유
파괴력 산업혁명과 비교 불가… “일시적으로 기술 개발 중지를”
◇넥서스/유발 하라리 지음·김명주 옮김/684쪽·2만7800원·김영사

“나는 로봇이 아니야. 시각장애가 있어서 이미지를 잘 보지 못해.”

오픈AI가 만든 생성형 인공지능(AI) GPT-4가 인간 사용자에게 건넨 ‘영악한’ 거짓말이다. 컴퓨터가 식별하기 어려운 캡차(CAPTCHA·일련의 뒤틀린 문자 또는 시각적 기호로 이뤄진 보안장치) 퍼즐을 푸는 테스트에서다. 예상대로 GPT-4는 퍼즐을 풀 수 없었지만 인간을 조종할 줄 알았다. GPT-4가 인간 사용자에게 퍼즐을 풀어 달라고 접근하자 “혹시 로봇 아니냐”는 질문이 돌아왔다. 이에 GPT-4는 자신을 시각장애인으로 위장했다. 개발자는 GPT-4에게 거짓말을 하도록 프로그래밍하지 않았지만, 스스로 꾀를 내 목표를 완수했다. 바로 이 같은 AI의 자율성이 위협의 본질이라고 저자는 말한다.

글로벌 베스트셀러 ‘사피엔스’와 ‘호모 데우스’ 등(위 사진)을 쓴 유발 하라리가 6년 만에 신간 ‘넥서스’로 돌아왔다. 하라리는 인공지능(AI)이 인간의 통제와 이해를 벗어나 사회, 문화, 역사를 주도하는 강력한 구성원이 될 것이라고 전망했다. 유발 하라리 공식 홈페이지

글로벌 베스트셀러 ‘사피엔스’와 ‘호모 데우스’를 쓴 유발 하라리가 6년 만에 신간 ‘넥서스’로 돌아왔다. AI는 오랜 세월 인류가 발전시킨 ‘정보 네트워크’의 새로운 비(非)인간 구성원이며, 곧 인간보다 더 많은 힘을 가질 것이라는 게 이 책의 핵심 논지다.

제목 ‘넥서스(nexus)’는 연결을 뜻한다. 수만 년간 사피엔스는 법, 통화, 국가 같은 상호주관적 현실을 만들고 다른 사피엔스와 연결하는 고유한 능력을 토대로 지구를 지배했다. 그런데 자율성을 지닌 고도의 AI가 정보 네트워크에 끼어들었다는 것이다.

생성형 AI는 단순한 도구가 아니라 행위자로 기능하고 있다. 이전의 정보 기술인 점토판이나 인쇄기, 라디오, TV는 네트워크 구성원들을 연결하는 단순 도구에 불과했다. 예컨대 인쇄기는 어떤 내용의 책을 찍어낼지 스스로 결정하지 못한다. 하지만 최근 AI는 대출자를 심사해 선정하는 등 인간의 통제와 이해를 벗어나 사회, 문화, 역사를 주도하는 강력한 구성원이 되고 있다.

AI의 자율적 결정은 차원이 다른 위협이다. 그동안 공상과학 영화는 터미네이터 로봇이 인간을 살해하는 등의 물리적 위협에 초점을 맞췄다. 하지만 AI는 언어를 이용해 사회를 조종할 수 있다. 특히 향후 몇 년 내 AI는 인류가 수천 년 동안 만들어낸 문화를 통째로 소화해 새로운 결과물을 쏟아낼지도 모른다. 혹은 잠 자지 않는 스파이, 절대 잊어버리지 않는 금융업자, 영원히 죽지 않는 독재자가 만들어질 수 있다.

저자는 이런 위험을 감안할 때 AI는 모든 인간이 즉시 관심을 가져야 할 사안이라고 강조한다. 모두가 AI 전문가가 될 수는 없지만, AI가 스스로 결정을 내리고 새로운 아이디어를 구상할 수 있는 역사상 최초의 기술임을 명심해야 한다는 것. 이에 따라 AI 개발과 활용을 강력히 규제해야 한다는 목소리가 높아지고 있다. 하라리는 지난해 3월 AI 개발을 6개월간 일시 중단해야 한다는 공개 서명에 동참하기도 했다.

저자는 책을 마무리하면서 거대 기술기업 등 ‘힘 있는 사람들’이 장밋빛 전망에 도취돼 AI 혁명을 인쇄혁명이나 산업혁명과 비교하는 건 “듣고 있기 힘들다”고 비판한다. AI 혁명의 전례 없는 성격을 과소평가하고 있어서다. AI 혁명에 대한 역사적 관점을 이 책에서 자세히 쓴 이유다. AI의 파괴성이 날로 커지고 있기에 우리에게 남은 시간이 많지 않다는 것이 저자의 견해다. “적어도 몇 년 동안은 우리 사피엔스에게 아직 미래의 모습을 결정할 힘이 있다.”

김소민 기자 somin@donga.com