[김주환의 디지털 그늘]컴퓨터가 인간통제 벗어난다면?

음성인식기술을 비롯해서 여러 가지 인공지능관련 연구에 뛰어난 업적을 남기고 있는 레이 커즈웨일의 견해에 의하면 앞으로 10년 뒤 신경망에 컴퓨터를 연결해서 두뇌에 정보를 직접 공급할 수 있게 되고, 2020년대에는 컴퓨터가 인간 지능과 비슷한 계산 능력을 갖게 되며, 2030년대에는 마침내 컴퓨터의 연산처리능력이 인간 두뇌를 추월하게 된다. 결국 컴퓨터와 인간 사이의 뚜렷한 구별이 점차 흐려지게 되고 컴퓨터가 스스로 의식이 있다고 주장하게 되면 인간은 그것을 받아들일 수밖에 없는 날이 오게 되리라는 것이다.

얼마 전 우리나라 신문지상에도 소개된 MIT의 합성캐릭터 개발팀은 컴퓨터 기술과 뇌신경과학이론 동물행위이론 인공지능이론 등에 기초해 일종의 지적 행위자인 합성캐릭터를 개발했다. 가까운 장래의 인터액티브 영화나 게임의 주역으로 등장하게 될 합성캐릭터는 전통적 텍스트에서 흔히 나타나는 ‘등장 인물’뿐 아니라 이야기의 흐름과 분위기에 따라 스스로 변화하는 ‘배경음악’이나 스스로 앵글과 샷을 결정하는 ‘카메라’도 포함된다. 나아가 이야기 구조 자체도 다른 캐릭터들을 통제하는 하나의 메타캐릭터라 할 수 있다. 일종의 인공지능이라 할 수 있는 이런 합성캐릭터는 기존의 매체에 기반한 영상물의 개념을 근본적으로 바꾸어 놓을 것이다.

뿐만 아니라 이러한 지적 행위자는 영화나 게임 등의 오락물에만 사용될 것으로 보이지는 않는다. 오히려 전자상거래 사이트 서버에 상주하고 있다가 방문자가 클릭해 들어오면 여러 가지 정보를 능동적으로 판단해 그 방문자를 설득함으로써 (예컨대 스스로 판단하여 여러 가지 상품을 권하고 때로는 값도 좀 알아서 깎아 주든지 아니면 덤으로 이러저런 선물을 제공한다든지 하면서) 최대한의 매출을 올리는 유능한 세일즈맨의 역할을 담당하게 될 것이다. 이런 지적 행위자는 아바타 등의 캐릭터로 등장할 수도 있을 것이며 경우에 따라서는 그저 평범한 웹브라우저의 모습으로 나타날 수도 있을 것이다.

여기서 한 가지 주목해야 할 것은 이제 이런 지적 행위자들이 네트워크 상에 상주하면서 서로 상호작용을 할 가능성이 있다는 것이다. 예컨대 한 사이트의 지적행위자가 다른 사이트의 지적행위자를 방문하여 서로 대화를 주고받게 되면 어떤 일이 일어날까? 또 이런 인공지능간의 대화가 동시 다발적으로 전체 네트워크상에서 일어나면 어떠한 일이 벌어질까?

지적 행위자는 기본적으로 일정한 학습 능력을 부여받는다. 또 여러 커뮤니케이션 이론이 지적하듯이 인간의 자아정체성은 선천적으로 부여되는 것이 아니라 다른 행위자와의 상호작용을 통해서 형성된다. 이런 이론대로라면 네트워크 상의 지적행위자들은 서로 배우고 영향을 주고받으며 우리가 상상할 수 없는 자기 자신들만의 자아 정체성을 발전시켜갈지도 모른다.

인공지능연구는 지금까지 하나의 독립된 컴퓨터 안에 미리 만들어진 프로그램을 주입함으로써 생각하는 존재를 만들어 내려고 했고, 결국 그런 노력은 벽에 부딪혔다. 이제 기본적 동기와 학습능력, 그리고 대화능력을 부여받은 지적행위자들이 네트워크 상에 등장하게 됨으로써 인공지능 개발은 새로운 전기를 맞게 됐다. 그러나 서로 능동적으로 상호작용하는 네트워크상 인공지능은 마치 유전자 조작처럼 인간의 통제를 벗어나 예측할 수 없는 괴물을 생산하게 될지도 모른다는 사실을 간과해서는 안 될 것이다.

(연세대 신문방송학과 교수)