“AI, 자의식-종족보존 본능 갖게 될것… 통제기술 개발 시급”

이광형 KAIST 총장 인터뷰
AI가 ‘독도는 일본 땅’ 답하면… 사상적으로 독도 빼앗기는 것
산업영역 넘어 사상-문화 지배
AI, 인간통제 벗어날 위험 있어… 통제기술 개발도 함께 이뤄져야

이광형 KAIST 총장은 올해 초 발간한 신간 ‘미래의 기원’에서 “인간과 유사한 자아를 갖춘 인공지능(AI)이 나타날 수 있다”고 전망했다. AI가 자아를 가지면 인간에게 해를 끼칠 가능성도 배제할 수 없다. 이 총장은 15일 동아일보와의 인터뷰에서 “AI 기술 발전과 함께 AI를 ‘통제할 수 있는 기술’도 필요하다”고 강조했다. 대전=신원건 기자 laputa@donga.com

“100% 인간과 똑같지는 않겠지만, ‘유사 자아(自我)’를 갖춘 인공지능(AI)은 21세기 내에 나타날 수 있다고 봅니다. 종족 보존의 본능도 갖게 될 겁니다. 이 때문에 AI 기술 발전과 함께 ‘AI 통제 기술’ 발전도 같이 이뤄져야 합니다.”

15일 대전 KAIST 본원에서 만난 이광형 KAIST 총장은 “인간은 ‘기술 발전의 욕구’를 가진 존재이기에 AI 발전은 계속될 것이며, 결국 AI가 (자의식을 갖게 되면서) 인간의 통제를 벗어날 가능성도 있다”고 전망했다. 이 총장은 AI, 바이오 등 학문의 통섭을 강조하는 ‘융합학자’이자 미래를 예측하는 ‘미래학자’다.

이 총장은 AI가 향후 가질 수 있는 ‘자의식’은 자기 자신을 보호하려는 ‘개체 보존 본능’과 종족을 이어가려는 ‘종족 보존 본능’이 될 것이라고 전망했다. 또 현재 기술 수준에서도 이런 본능이 일부 나타나고 있다고 설명했다. 예를 들면 배터리가 방전된 로봇 청소기가 충전기를 찾아 스스로 온 집을 헤매고 다니는 것은 개체 보존 본능, 컴퓨터 바이러스가 자신을 복제하면서 네트워크 기기를 마비시키는 것은 종족 보존 본능에 해당한다. 이 총장은 “AI의 에너지 공급을 제어하거나, 증식과 번식을 막는 것이 AI 통제의 힌트가 될 수 있다”고 강조했다.

이 총장은 AI 발전은 인류의 위협이 될 수도 있다고 경고하며 “(한국과 KAIST가) 세계 최초로 이러한 ‘AI 통제 기술’을 개발할 필요가 있다”고 강조했다. 최근 오픈AI에서 샘 올트먼이 축출됐다가 복귀한 과정에서 기술에 대한 규제보다 고도화를 강조하는 ‘매파’가 승리한 것처럼 AI의 발전은 걷잡을 수 없다는 것이다. 이 총장은 “인간의 탐욕이 기술과 만나면 걷잡을 수 없게 된다. 인간 본능을 보면 AI가 통제를 벗어날 가능성이 꽤 있다”며 “AI 관리와 통제를 위한 실질적인 기술 개발이 필요하다”고 밝혔다.

이 총장은 AI가 단순한 산업이 아닌 사상과 문화 등 전 영역을 지배할 수 있는 만큼 국책사업으로 관리해야 한다고 말했다. 이 총장은 “앞으로 학생들이 공부할 때 AI가 ‘독도는 일본 땅’이라고 답한다면 (사상적으로) 독도를 빼앗기는 것이며, ‘을지문덕이 중국 장수’라고 한다면 을지문덕을 빼앗기는 것이다”라며 “국방 영역에서도 미래의 전쟁은 AI가 적을 발견해 공격하는, 1분 안에 다 해결되는 방식이 될 것”이라고 말했다.

이와 관련해 그는 “AI에 종속되면 문화, 국방, 경제, 우리 사상이 모두 종속된다”며 “(해외 AI 기술을) 편하게 갖다 쓰면 된다라는 생각은, 조선 말 일본이 우리에게 잘해 줄 것 같으니 일본 것 쓰면 되지 하는 것과 같다”고 경고했다.

이에 이 총장은 “사상까지 통제하는 AI는 자동차, 반도체 산업보다 중요하다”며 “과거 현대자동차, 포스코를 지원하듯 국가적 지원이 필요하다”고 했다. 이 총장은 “예를 들어 두 기업을 선발해 1000억 원씩 무이자로 5년간 지원한 후 더 우수한 평가를 받은 기업에는 1조 원을 추가로 지원해야 한다”는 ‘구체적 지원 방안’까지 제시했다.

AI 시대가 이미 도래했지만, 정작 국내에는 관련 기술을 개발할 연구개발(R&D) 인력과 역량이 부족하다는 지적도 많다. 인구 감소에 인재들이 의대로 몰리며 이공계 연구 인력이 부족한 탓이다. 이 총장은 다양한 지원책으로 우수한 해외 인재를 적극 유치해야 한다고 말했다. 그는 “미 매사추세츠공대(MIT)도 절반 이상이 외국인이다. 외국에서 우수한 인재들이 유학을 오도록 하고, 영주권이나 국적을 부여하는 등의 지원을 해야 한다”고 했다.

이 총장은 R&D 역량을 키우기 위해 “실패를 용인하는 문화가 필요하다”고도 강조했다. 이 총장은 “말로는 ‘도전적 연구’를 외치지만 여전히 실패에 불이익이 많다”며 “(실패에 따른) ‘벌’이 많아져서는 안 된다”고 말했다.