[책의 향기]AI에 주도권 빼앗길까? “아직은 대응할 여지 있다”

무기화 땐 전쟁 불확실성 높이고, 허위정보 퍼뜨려 생각 조작하는 등
악용되면 인간 힘으로 대응 어려워… 올바른 가치관 기반한 미래 만들어야
◇AI 이후의 세계/헨리 키신저, 에릭 슈밋, 대니얼 허튼로커 지음·김고명 옮김/296쪽·1만9800원·윌북
◇1%를 보는 눈/크리스 존스 지음·이애리 옮김/344쪽·1만8000원·추수밭

‘AI 이후의 세계’의 저자 헨리 키신저 전 미국 국무장관(왼쪽 사진), 에릭 슈밋 전 구글 최고경영자(가운데 사진), 대니얼 허튼로커 미국 매사추세츠공대(MIT) 슈워츠먼컴퓨팅대 학장. 저자들은 인공지능(AI)의 등장으로 인간은 15세기 인쇄 혁명 이후 가장 큰 문명의 전환점에 서 있다고 강조한다. 윌북 제공

혹시 운전할 때 내비게이션 앱을 사용하는지? 도로 정체가 생기면 앱은 사용자들이 특정 경로에 몰리지 않도록 여러 서로 다른 길을 추천하는 것으로 알려져 있다. 그 결과 누군가는 편한 대로로 가고, 다른 누구는 좁고 구불구불한 길로 가게 된다. 당신은 인공지능(AI)에 위치 정보를 제공하고 도움을 받을 뿐 아니라 이미 사실상 행동을 통제당하는 세계에 사는 셈이다.

‘AI 이후의 세계’는 헨리 키신저 전 미국 국무장관과 에릭 슈밋 전 구글 최고경영자(CEO), 대니얼 허튼로커 미국 매사추세츠공대(MIT) 슈워츠먼컴퓨팅대 학장 등 저명인사들이 AI가 가져올 세계의 변화에 대해 함께 논의한 내용을 정리한 책이다.

책에 따르면 AI는 세계 안보 질서에 지대한 변화를 가져올 것이다. 냉전 시대 핵무기가 사용되지 않았던 까닭은 간단하다. 쐈다가는 남아있는 상대방의 핵전력으로 보복당해 자신도 절멸할 것이 확실했기 때문이다. 이른바 ‘상호 확증 파괴’ 전략이 받아들여지면서 핵 사용은 억제됐다.

그러나 군사 분야에 AI 사용이 전면화되면 문제가 달라진다. 자율성과 비인간적 논리에 바탕을 둔 AI에 권한이 위임되면 전쟁의 불확실성과 예측 불가능성은 극도로 커진다. 일부 AI 기반 무기의 위력은 실전에서만 확인 가능할 수도 있다. 실제 분쟁이 발생하지 않는 한 특정 국가가 군비 경쟁에서 앞섰는지 아니면 뒤처졌는지를 모를 수 있다는 뜻이다. 힘의 균형에 의한 평화가 성립하려면 일단 균형이 잡혔는지 아닌지가 파악돼야 하는데, 계산 착오로 분쟁이 발발할 소지가 크다. 책은 이 같은 변화가 걷잡을 수 없는 수준에 도달하기 전에 AI 기반 전쟁의 특징을 참작해 전략적 기조를 세워야 한다고 역설한다.

구글이나 바이두 등 글로벌 네트워크 플랫폼의 AI는 전례 없는 편익을 줬지만 그에 따른 위험도 크다. AI는 이용자에게 콘텐츠와 관계를 추천하고, 정보와 개념을 분류하고, 이용자의 취향과 목적을 예측하면서 개인적, 집단적, 사회적으로 특정한 선택을 부추길 수 있다. 당신의 생각을 조작할 수 있다는 얘기다. 기존에도 악의적으로 허위정보를 퍼뜨리려는 시도를 완벽히 제압하기는 힘들었지만 만약 생성 AI가 혐오와 분열을 조장할 목적으로 악용된다면 인간의 힘만으로는 대응하기 어려울지 모른다. 저자들은 AI 발전의 역사를 일별한 뒤 “아직은 인간이 미래의 주도권을 쥐고 있다”며 “우리의 가치관에 부합하는 미래를 만들어야 한다”고 강조한다.

잡지 에스콰이어의 수석 저널리스트가 쓴 ‘1%를 보는 눈’은 AI의 시대에도 당분간은 인간만이 할 수 있는 영역이 있다고 본다. 넷플릭스 같은 엔터테인먼트 회사들은 데이터를 바탕으로 사용자가 무엇을 원하는지 예측하고자 하지만 항상 성공하는 것은 아니다. 최첨단 알고리즘이라고 해도 우리 욕망의 변화를 수치화하기란 어렵다는 것. 책은 의사와 기업 임원, 운동선수, 기상학자, 디자이너, 작가 등의 창의적 발견의 사례를 소개한다. 그리고 인간의 적응력과 창의성은 기계의 예측력을 능가한다고 강조한다.


조종엽 기자 jjj@donga.com