[책의 향기]초지능 AI가 묻는다 “인간이 꼭 필요할까”

◇슈퍼인텔리전스:경로, 위험, 전략/닉 보스트롬 지음·조성진 옮김/548쪽·2만5000원·까치

지난해 구글의 인공지능 바둑 프로그램 ‘알파고’와 5차례 대국해 1승 4패를 기록한 이세돌 9단. 저자는 이 책의 영문판이 발간된 2014년 “인공지능이 10년 안에 인간 바둑 챔피언을 이길지도 모른다”고 예상했다. 동아일보DB

어려운 책이다.

저자 스스로 서문에 “독자들이 쉽게 읽을 수 있도록 쓰려고 애썼지만 만족스러울 정도로 성공하지는 못했다”고 밝혔다. 독자층이 좁아졌으리라는 것을 미리 인정하며 그는 “여기 소개하는 새로운 생각들을 자신에게 문화적으로 익숙한 관념으로 잘못 이해하는 일이 없도록 유의해 달라”고 당부한다.

섣부른 오해보다는 차라리 무지가 낫다는 함의의 경고에 신경 쓰며 꾸역꾸역 읽은 뒤 맛본 감정은 ‘공포’다. 스웨덴 출신의 영국 옥스퍼드대 철학과 교수인 지은이는 인공지능에 대한 이야기를 흥미롭게 풀어낸 읽을거리로 이 책이 소비되길 원하지 않았다. “인류가 보유한 우주의 무한한 자산을 온정적으로 즐겁게 사용하도록 이끌어야 한다”는 무난한 문장으로 책을 맺었지만, 바로 한쪽 앞에 적은 비유적 현실 인식에서 그의 진심이 더 강하게 전해진다.

“지능 대확산 이전의 인간은 방 안에서 폭탄을 갖고 노는 어린아이와 같다. 장난감이 가진 힘과 아이의 미성숙이 부조화를 이룬다. 폭탄을 손에 든 아이가 해야 할 현명한 행동은 그걸 조심스럽게 내려놓고 밖으로 나가 어른에게 알리는 거다. 그러나 우리가 다루려는 문제에서 아이는 한 명이 아닌 여럿이다. 몇몇은 호기심에 점화 버튼을 누를 거다.”

저자는 인간이 인류의 보편적 지능을 능가하는 기계 두뇌를 만들게 될 미래의 어느 날을 기점으로 인간의 운명이 현재의 고릴라와 비슷해질 것이라고 예측한다. 종(種)의 운명을 스스로 결정하지 못하고 더 우월한 지능을 가진 인간의 손에 넘긴 고릴라의 신세와 다를 바 없어지리라는 것.

인간보다 뛰어나게 만들어진 슈퍼인텔리전스(초지능)가 일단 한번 인류에게 비우호적 태도를 취하면 돌이킬 방법을 찾을 수 없을 것이기 때문이다. 그런 태도를 변경하려는 시도가 탄생 즉시 스스로 자신의 능력을 빠르게 향상시키기 시작할 초지능에 의해 가로막히리라는 건 어렵지 않게 상상할 수 있다. 저자는 대부분의 인공지능 분야 선구자들이 자신들이 하는 일이 이런 결과를 낳을 수 있음을 밝히지 않았다고 지적한다.

‘인간이 행복해지도록 해 달라’는 목표를 지시받은 인공지능이 인간 뇌 속 쾌락중추에 전극을 이식해 보다 효율적으로 ‘행복한 상태’를 추구하거나, ‘양심에 가책이 없을 행동을 하라’는 지시를 받은 뒤 인공지능 속 죄책감 인지시스템을 스스로 제거해버릴 가능성이 적지 않다는 얘기다.

저자는 스스로 만물의 영장이라 믿어 온 인류의 오만을 꼬집으며 “인간의 뇌는 사실 철학적 사고를 하기에 적당하지 않으며, 그저 특정 행위를 하는 데 필요한 최소한의 능력을 갖춘 정도”라고 주장한다.

“압도적 힘을 가진 존재가 ‘그것을 사용하지 않겠다’고 선택할 까닭이 있을까? 확실한 전략적 우위를 가진 초지능이 무엇을 원할지 인간이 예상하는 게 가능할까?”

어쩌면 이렇게 인공지능의 발아(發芽)에 대한 책을 읽고 있는 시간을, 생각보다 빨리 그리워하게 될지도 모르겠다.

손택균 기자 sohn@donga.com