“인류 파멸 불씨냐, 번영의 선물이냐”… AI ‘두머’ vs ‘부머’ 대논쟁[인사이드&인사이트]

올트먼 사태로 논란 재점화

《지난달 샘 올트먼 오픈AI 최고경영자(CEO)가 갑작스레 해임됐다가 5일 만에 복귀한 과정은 한 편의 드라마와 같았다. 오픈AI가 올트먼을 해임하려 한 결정적 이유는 아직 명확히 드러나지 않았다. 하지만 이번 사태로 지난해 11월 30일 챗GPT(GPT 3.5버전) 공개 이후 오픈AI가 전 세계적 열풍의 한가운데 서면서 내부 갈등이 심각했다는 점은 분명해졌다. AI 개발을 가속화할 것이냐, 안전 규제를 우선시할 것이냐를 두고 이른바 ‘두머(doomer·파멸론자)’ 대 ‘부머(boomer·개발론자)’ 갈등이 폭발한 것이다.》

‘불행한 결말’이라는 뜻의 ‘둠(doom)’에서 따온 ‘두머’는 AI의 해악에 초점을 맞추고 규제와 안전성 마련을 주장한다. 반면 ‘호황’을 뜻하는 ‘붐(boom)’에서 비롯된 낙관론자 ‘부머’는 AI를 ‘프로메테우스의 불’이라고 본다. 불은 삶의 터전을 태워 버릴 위험이 있지만 결국 인간이 불을 통제해 문명을 구축했듯 AI도 인류 번영의 열쇠가 될 것이라는 시각이다.

● “종이클립의 역설…인류 문명 파괴”

“GPT-4(오픈AI의 최신 AI 모델)를 능가하는 AI 개발을 6개월간 중단해야 한다.”

김현수 뉴욕 특파원

세계의 시선이 챗GPT에 쏠려 있던 올 3월, 일론 머스크 테슬라 최고경영자(CEO)를 비롯한 저명한 기술자 그룹은 이런 내용의 서한을 발표했다. AI 연구단체 ‘미래생명연구소’가 주도한 서명 운동이었다. 머스크 CEO뿐 아니라 요슈아 벤지오 캐나다 몬트리올대 교수, AI 석학 스튜어트 러셀 버클리 캘리포니아대(UC버클리) 교수 등이 참여한 이 서한은 세계에 AI의 위험성을 알리는 데 성공했다. 기술업계 내부에서는 “AI 두머가 오픈AI와 최대 투자자 마이크로소프트(MS)에 보내는 경고”라고 표현했다.

2015년 발족한 미래생명연구소는 머스크와 러셀 교수가 고문으로 있는 연구단체다. AI의 위험성을 경고한 파멸론자들의 산실이자 실리콘밸리 커뮤니티인 ‘효과적 이타주의(Effective Altruism·EA)’와도 연관이 깊다. EA는 효율적 기부와 연구로 인류의 위험을 막겠다는 유사 철학 운동이다.

20년 전부터 AI 파멸론자들은 영향력을 확대해 왔다. 핵심 인물은 비영리단체 기계지능연구소(MIRI) 설립자 엘리에저 유드코스키다. 그는 고교를 중퇴했지만 인간을 초월한 AI에 대한 공포를 강조하는 글을 온라인에 올리며 유명해졌다. 2005년 글로벌 온라인 결제 기업 페이팔의 공동창업자 피터 틸의 자금 지원으로 MIRI를 설립했다.

2010년 유드코스키는 틸에게 과학자 셰인 레그, 데미스 허사비스를 소개했다. 이들은 AI연구 선두기업 ‘딥마인드’(2014년 구글에 인수) 설립자들이다. 뉴욕타임스(NYT)는 2021년 기사에서 “이들은 자신들이 안전하게 AI를 개발할 적임자라고 여겼다”고 평했다.

2014년 AI 두머와 합리주의자, EA가 한데 뭉칠만 한 계기가 있었다. 유드코스키와 교류해 온 영국 옥스퍼드대 교수 닉 보스트럼의 저서 ‘초지능’이 출간된 것이다. 보스트럼은 이 책에서 AI 두머의 상징이 된 ‘종이클립 이론’을 제시했다. 클립 생산량을 극대화하는 임무를 가진 AI는 임무를 완수하기 위해 생산 설비 스위치를 끌 수 있는 인간을 제거하는 게 낫겠다고 판단할 수 있다. AI가 예상과 달리 인류에게 치명적 해악을 줄 수 있다는 것이다.

이때부터 종이클립은 두머들의 상징이 됐다. 오픈AI 쿠데타의 핵심 인물인 일리야 수츠키버 오픈AI 수석과학자는 AI가 인간의 의도에서 엇나가지 않도록 인간 지능 수준의 ‘일반인공지능(AGI)’의 안전성을 다루는 슈퍼얼라인먼트(Super-Alignment·초정렬)팀의 수장이었다.

머스크, 고 스티븐 호킹도 두머에 동조했다. 머스크는 구글이 딥마인드를 인수한 2014년 한 심포지엄에서 “우리는 AI와 함께 악마를 소환하고 있다”고 했다. 머스크는 페이팔을 함께 운영한 틸, Y컴비네이터를 이끌던 올트먼과 함께 2015년 구글 딥마인드 대항마를 설립했다. 그게 바로 ‘인류를 위한 AI 개발’을 기치로 내건 비영리단체 오픈AI의 출발이었다.

이후 오픈AI의 분화가 이뤄졌다. 부사장이던 다리오 아모데이는 오픈AI가 지나치게 빨리 상업화되고 있다며 2021년 EA 계열 지지를 바탕으로 AI 기업 앤스로픽을 세웠다. 이들은 ‘딥러닝의 대부’로 불리는 제프리 힌턴 토론토대 교수의 합류로 더욱 힘을 얻었다. “AI의 문제점을 자유롭게 말하겠다”며 5월 구글에서 퇴사한 힌턴 교수는 와이어드와의 인터뷰에서 “유드코스키가 미친 사람인 줄 알았는데 어느 정도 맞는 말을 한다”고 했다.

● “AI는 인류의 선물, ‘불’이다”

챗GPT 돌풍이 불기 직전인 2022년 가을 무렵, 오픈AI 사무실로 종이클립 무더기 소포가 도착했다. 클립은 오픈AI 로고 모양으로 제작돼 있었다. 월스트리트저널(WSJ)에 따르면 경쟁사 앤스로픽 연구원이 장난 삼아 보냈다. 오픈AI가 파멸의 AI를 이끌고 있다는 의미를 담은 것이다.

오픈AI를 세운 머스크와 올트먼, 힌턴 교수의 제자 수츠키버 등은 초반에만 해도 이들에게 ‘악의 축’이던 빅테크 구글 딥마인드에 대항하자는 공감대가 있었다. 하지만 내부 논쟁이 끊이지 않았고, 2018년 머스크는 오픈AI와 결별했다. 머스크가 오픈AI 조직을 장악하려 하자 올트먼이 막아섰다는 보도도 나왔다.

오픈AI는 MS로부터 100억 달러 이상을 투자받는 데 성공했다. 오픈AI 투자를 이끈 인물은 케빈 스콧 MS 수석 부사장이다. 스콧과 올트먼, 미라 무라티 오픈AI 최고기술책임자(CTO)는 코드가 맞았다. 미 시사주간지 더뉴요커에 따르면 스콧과 무라티는 지독한 가난을 ‘기술’을 통해 이겨낸 공통점이 있었다.

이들은 AI는 사람이 충분히 제어할 수 있는 도구일 뿐이고, 인류에 번영과 부를 가져다 줄 것이라고 믿는 ‘부머’ 쪽이었다. 오픈AI 연구원들은 점점 올트먼의 빼어난 투자 유치 능력하에 AI 부머에 가까워졌다. 아모데이 당시 부사장은 앤스로픽 설립 전인 2019년 우연히 연구원들이 의도하지 않았던 GPT의 코딩 능력을 확인하고 깜짝 놀랐다. 반면 스콧과 무라티는 흥분했다. 상업적으로 성공할 AI의 능력을 엿봤기 때문이다.

AI 부머들은 두머 진영에 대해 “킬러 로봇이란 망상에 빠진 비과학적 컬트 집단”이라고 비난한다. ‘AI 4대 천황’으로 꼽히는 메타 수석과학자 얀 르쾽 뉴욕대 교수와 앤드루 응 스탠퍼드대 교수는 “AI에 대한 공포가 과장됐다”며 기술에 대한 믿음을 설파하고 있다.

6월 넷스케이프 창업자이자 유명 벤처투자자인 마크 앤드리슨은 ‘AI는 세상을 구할 것이다’라는 글에서 “더 큰 위험은 중국만 AI를 개발하고 서방 진영은 규제에 매몰되는 것”이라고 주장했다. 또 AI의 안전성을 강조하는 사람들 중에는 “규제를 통해 ‘AI 카르텔’을 유지하고 후발 스타트업들의 성장을 막으려는 ‘기회주의자’가 있다”고 비판하는 사람도 있다.

● 올트먼의 두 얼굴

올트먼은 두머일까 부머일까. 이번 해임 사태를 계기로 부머임이 뚜렷해졌지만 올트먼은 그간 두머들도 인정하는 뛰어난 사업가였다. 그는 MS와 손잡고 챗GPT 상업화에 누구보다 열을 올렸지만 동시에 전 세계를 돌며 AI 위험성을 경고해 왔다.

3월 EA 지지자인 틸 페이팔 창업자도 WSJ에 “올트먼은 ‘잘못된 이상주의’와 ‘근시적 야망’ 사이에서 그 누구보다 잘 헤쳐 나가는 사람”이라고 말했다. 하지만 두머들은 올트먼의 행동이 앞뒤가 다르다고 느꼈고, 결국 해임 사태가 빚어진 것으로 보인다.

AI 업계 고위 임원은 “올트먼은 누구보다도 경쟁적으로 AI 산업을 이끌어 저작권을 비롯해 가장 많은 소송을 당했다”며 “그런데 아이러니하게도 각국 규제 당국에 ‘우리를 규제해 달라’고 외쳤다”고 평했다. 이 때문에 자사에 유리한 쪽으로 영향을 미치기 위해 규제 논의에 뛰어든 것 아니냐는 지적도 나온다.



김현수 뉴욕 특파원 kimhs@donga.com