머스크와 알트만, 누가 인류 멸망 막을 ‘AI 지배자’ 감인가[딥다이브]

‘세계 두번째 부자’ 일론 머스크와 ‘챗GPT의 아버지’ 샘 알트만. 과연 AI(인공지능)가 인류를 멸망케 하는 것을 막을 수 있는 AI의 지배자는 둘 중 누가 될까요? 왜 이런 질문을 하느냐고요? 현재 전 세계에서 가장 주목 받는 두 CEO가 바로 이 주제를 놓고 엄청난 신경전을 벌이고 있기 때문입니다. 머스크는 ‘거짓말쟁이‘라며 샘 알트만의 챗GPT를 공격하고, 알트만은 머스크를 ‘얼간이(jerk)’라고 부르면서 말이죠.

두 사람간 갈등은 그 본질이 ‘돈’이 아니라는 점에서 더 흥미로운데요. 머스크가 오픈AI에 맞설 ‘X.AI’를 설립하면서 경쟁은 본격화될 전망입니다. AI 개발을 둘러싼 둘 사이의 오랜 스토리를 통해 이들이 지향하는 ‘인공일반지능(AGI)’ 이야기까지 들여다보겠습니다.

2016년 당시 와이콤비네이터 수장이던 샘 알트만이 일론 머스크 테슬라 CEO와 대담을 나누고 있다. 두 사람이 오픈AI를 공동설립한 지 얼마 안 됐을 때다. 와이콤비네이터 유튜브 캡처

*이 기사는 21일 발행한 딥다이브 뉴스레터의 온라인 기사 버전입니다. ‘읽다 보면 빠져드는 경제뉴스’ 딥다이브를 뉴스레터로 구독하세요.
https://www.donga.com/news/Newsletter

머스크가 오픈AI를 떠난 이유

“챗GPT는 무섭도록 좋다. 우리는 위험하도록 강한 AI에서 멀지 않다.”(2022년 12월 4일)

일론 머스크는 오픈AI가 AI 챗봇 ‘챗GPT’를 처음 내놨을 때부터 이렇게 비판했습니다. 이후 올해 초 마이크로소프트(MS)가 오픈AI에 대규모로 추가 투자를 하자 공격강도를 높였는데요.

“오픈AI는 구글의 균형추 역할을 하려고 비영리 기업이자 ‘오픈소스’로 만들었는데 지금은 ‘클로즈드소스’가 됐다”(2023년 2월 17일)거나 “내가 1억 달러를 기부한 비영리 단체가 어떻게 해서 300억 달러짜리가 되었는지 아직도 혼란스럽다”(2023년 3월 15일)는 트윗을 남겼죠. 지난달 28일엔 ‘GPT-4보다 강력한 AI 개발을 최소 6개월 중단하자’는 공개서한에 그가 동의 서명하면서 큰 화제가 됐고요.

머스크는 혹시 챗GPT와 오픈AI가 잘 되는 게 배 아파서 그러는 걸까요? 그렇게 볼 만한 부분도 분명히 있긴 합니다. 아시다시피 머스크는 2015년 샘 알트만, 리드 호프만, 피터 틸과 공동으로 비영리단체 오픈AI를 설립했습니다. 이후 2018년 2월 오픈AI 이사회를 떠나며 완전히 결별했고요.

17일 방송된 폭스뉴스와의 인터뷰에서도 머스크는 챗GTP가 거짓말을 한다며 비판을 이어갔다. AP 뉴시스

그동안은 결별 이유가 테슬라가 자율주행 기술 개발에 나서면서 오픈AI와 경쟁관계에 놓이게 됐기 때문(잠재적 이해상충)이라고 설명해왔는데요. 지난달 말 세마포 보도로 진짜 이유가 드러났습니다. 머스크는 2018년 초 ‘오픈AI를 내가 직접 이끌겠다’고 나섰다는데요. 오픈AI의 다른 공동 창업자들이 이를 거부하면서 결별하게 됐다고 합니다. 당시 머스크는 오픈AI가 구글에 치명적으로 뒤쳐져 있다고 보고 본인이 CEO로 나서려고 했다는군요. ‘이런 중요한 일을 해낼 수 있는 유일한 사람은 바로 나’라고 생각한 게 아닐까 싶습니다.

머스크는 초기에 오픈AI에 1억 달러를 기부했지만, 결별 이후엔 약속했던 나머지 기부금(처음에 공동창업자들이 총 10억 달러 기부를 약속)은 내지 않았는데요. 그 결과 AI 개발을 위한 막대한 컴퓨팅 비용을 마련할 길 없던 오픈AI의 샘 알트만은 비영리단체라는 정체성에 변화를 꾀합니다. 2019년 3월 영리법인을 만들어 MS의 투자를 받은 건데요. 이후 오픈AI는 비영리단체와 영리법인이 결합된 하이브리드 형태로 운영됩니다.

결과적으로 MS의 영리법인 투자를 바탕으로 챗GPT가 탄생했습니다. 오픈AI는 글로벌 AI 기술의 선두주자로 우뚝 섰고요. 그럼 샘 알트만이 역시 옳았나요? 뒤늦게 쏟아지는 머스크의 오픈AI 비판은 배 아픈 자의 딴지일 뿐일까요?

인공일반지능(AGI)이란 목표

샘 알트만은 AGI의 안전한 구축이 오픈AI의 궁극적 목적이라고 강조해왔다. AP 뉴시스

여기서 잠깐. 오픈AI가 밝힌 그들의 사명이 뭔지 아시나요? ‘안전하고 유익한 인공일반지능(AGI)를 구축하는 것’입니다. 그냥 AI가 아닌 AGI(Artificial General Intelligence)라는 데 주목하세요! AGI란 진짜 인간 수준의 강력한 AI입니다. 인간이 하는 어떠한 지적 활동도 성공적으로 할 수 있는, 스스로 생각하는 AI를 가리키죠.

물론 AGI는 아직 나오지 않았습니다. 언제나 개발될 수 있을지도 아무도 모르죠. AGI 자체가 도달 불가능한 비현실적인 꿈이라는 회의론도 많습니다. 비판론자들은 AGI를 두고 ‘AI 개발자들이 신이 되려고 한다’고 꼬집기도 하죠. 하지만 구글과 오픈AI를 포함한 여러 기관이 AGI 개발을 목표로 이미 달리고 있습니다. 오픈AI가 GPT-4 같은 거대언어모델(LLM)을 연구한 것 역시 LLM이 AGI로 가기 위한 유망한 경로라고 봤기 때문입니다.

그런데 만약 AGI가 진짜 나온다면 그건 환영할 만한 일일까요? AI가 의식이 있고 스스로 생각한다는 건 달리 말해 인간의 통제를 벗어난다는 뜻입니다. 일단 AGI가 한번 나오면 그걸 되돌릴 수도 없게 될 겁니다. FT 칼럼에선 AGI를 ‘신과 같은 AI’라고 부르더군요. 만약 그렇다면 ‘터미네이터’ 시리즈나 ‘2001:스페이스오디세이’ 영화처럼 인간을 초월한 능력을 가진 통제 불가능한 AGI가 인류 문명을 파괴하게 되진 않을까요.

상상력이 지나친 거 아니냐고요? 꼭 그렇게만 볼 일이 아닙니다. 오픈AI가 왜 ‘안전하고 책임감 있는 AI 개발’을 그토록 강조할까요. 샘 알트만은 왜 “AI가 두렵다”고 말할까요. 실제로 안전하지 않을 가능성이 꽤 있다고 보기 때문입니다.

인간의 가르침 없이 스스로 생각하는 AI, 일반인공지능을 개발하는 게 목표라고? 게티이미지

2016년 머스크와 알트만, 두 사람이 사이가 좋았을 때 나눈 대담이 있는데요. 그때도 머스크는 “인류의 미래에 가장 큰 영향을 끼칠 기술은 AI”라고 말했습니다. 특히 “누군가가 나쁜 방식으로 강력한 AI를 사용하는 것은 인류에 큰 위험”이라고 경계했는데요. 동시에 “AI기술이 소수의 손에 집중되지 않도록 퍼뜨리기 위해” 오픈AI는 개방형 AI를 만들어야 한다고 강조했죠. “미래에 (AI로 인한) 실존적 피해 위험을 최소화하기 위해” 오픈AI가 비영리단체로 운영돼야 한다고 설명했고요.

정리하자면 AGI를 가장 먼저 개발해서 이를 모두에게 공개해 ‘AI 기술의 민주화’를 달성하겠다는 게 애초에 오픈AI의 설립 취지입니다. 순수하면서도 이상적인 발상이 아닐 수 없습니다. 그런데 지금 오픈AI를 보면 어떤가요?

오픈AI가 지난달 GPT-4를 공개한 뒤 전문가들은 상당히 실망했는데요. 연구와 특허를 공개한다는 당초 설명과 달리 GPT-4 훈련 데이터에 대한 세부 정보를 공유하지 않았기 때문입니다. 이에 대해 오픈AI측은 ‘경쟁사 대비 회사의 경쟁 우위를 유지하기 위한 것’이라고 설명했습니다. 오픈AI가 ‘클로즈드소스’가 됐다는 머스크 비판이 영 틀린 말은 아닌 것 같은데요. 그럼 샘 알트만의 오픈AI는 머스크 말대로 위험한가요?

유연한 이상주의자, 샘 알트만

챗GPT의 성공에 이르기까지 샘 알트만은 이상과 현실 사이의 타협점을 찾아 나갈 필요가 있었다. AP 뉴시스

샘 알트만은 여러모로 머스크와 참 다릅니다. 일단 성격부터 그렇죠. 그의 중학교 교장이 월스트리트저널에 밝혔듯이 그는 “똑똑할 뿐 아니라 매우 사교적”인 인물이거든요. 적어도 머스크처럼 괴팍하진 않은가 봅니다. 샘 알트만 본인도 비슷한 말을 했는데요. 최근 팟캐스트에서 머스크에 대한 질문이 이어지자 “그는 얼간이(jerk)”라면서 “그는 나랑은 맞지 않는 스타일이다”라고 솔직히 말했죠.

자금 부족으로 좌초 위기에 놓였던 오픈AI를 되살린 그의 경영능력도 인정할 만한데요. 2019년 영리법인 설립 직전 알트만이 정부자금 지원을 받거나 코인을 출시해서 돈을 마련하는 방법까지 고민해야 했을 정도로 오픈AI 자금사정은 어려웠다고 하죠.

영리법인을 만들고 MS와 손잡으면서 그는 여러가지 ‘안전장치’를 많이 뒀습니다. 일단 오픈AI 영리법인은 투자자의 이익을 제한합니다. 투자자는 투자금의 100배까지만 수익을 올릴 수 있고요. 그 이상은 다 비영리단체로 귀속됩니다. 또 알트만과 MS CTO가 포함된 ‘합동안전위원회’를 만들어서, 만약 위험하다고 판단되면 오픈AI와 MS 제품 배포를 중단할 수 있게 했습니다.

알트만 본인이 영리법인 지분을 단 1주도 갖고 있지 않은 것도 특이한데요. ‘강력한 AI모델 개발의 원동력이 돈이 되는 것은 매우 위험하다’는 평소 신념을 지키기 위해서라고 합니다.

AI 개발엔 엄청난 돈이 든다. 샘 알트만은 “컴퓨팅 비용이 눈물 날 정도로 막대하다”고 밝힌 적 있다. 게티이미지

오픈AI의 공동창립자인 피터 틸은 알트만을 높이 평가합니다. “이상주의의 스킬라와 야망의 카리브디스 사이에서 이보다 더 나은 길을 찾는 사람은 없다”고 WSJ에 얘기했죠(스킬라와 카라브디스는 모두 그리스 신화 속 괴물, 영어에선 딜레마적 상황을 의미). 원칙에서 너무 많이 벗어나진 않는 선에서 유연하게 상황에 대처하는 경영자란 뜻으로 풀이됩니다.

하지만 오픈AI 내부에선 MS와 손잡은 알트만의 행보에 대한 비판이 있었습니다. AI안전 책임 부사장이었던 다리오 아모네이가 대표적인 인물이죠. 아모네이는 결국 핵심 연구원들을 데리고 나가 AI스타트업(안트로픽)을 차렸습니다. 이를 두고 “안전한 AGI에 도달하는 방법에 대한 의견이 서로 달랐다”고 알트만은 설명하는데요. AI 개발의 안전을 위한 까다로운 원칙(비영리, 연구와 특허 공개 등등)을 철저히 따르면서 기술을 개발한다는 게 쉽지 않은 미션인 건 분명해 보입니다.

AI 인간? 보편적 기본소득?

머스크는 3월 초 네바다주에 ‘X.AI’이란 법인을 설립했다. 언론에선 AI 개발회사일 걸로 추정한다. AP 뉴시스

샘 알트만 입장에선 MS와 손 잡은 건 오픈AI의 고귀한 사명 달성을 위한 약간의 전략 변화였을 겁니다. 하지만 일론 머스크에겐 오픈AI가 초심을 잃고 변했다고 비판하기엔 충분한 근거가 됐죠.

지난 17일 방송된 폭스뉴스 인터뷰에서 머스크는 “오픈AI는 AI가 거짓말하도록 훈련시켰다”고 비난했는데요. 자신이 오픈AI 설립을 주도한 이야기를 하며 “나는 이것을 만들기 위해 정말 많은 노력을 쏟았는데, 내가 눈을 떼자 그들은 소스를 폐쇄하고 분명히 영리를 추구하고 있다”고도 말했습니다. 그러면서 “나는 우주의 본질을 이해하고 진리를 추구하는 AI, 이른바 ‘트루스(Truth)GPT’를 개발하겠다”는 계획을 밝혔습니다. 본격적으로 오픈AI와 AI기술 개발을 두고 경쟁하겠다는 건데요.

한번(오픈AI) 해봤으니, 두번도 못할 건 없긴 합니다. 머스크는 자신이 AGI의 무서운 파워를 감당할 만한 인물이라고 자신하는 것 같은데요. 그런데 머스크가 AI 개발을 맡기기에 믿을 만한 인물일까요?

머스크가 추구하는 AI기술의 방향을 파악하려면 그가 과거에 밝혔던 미래 구상을 알아둘 필요가 있습니다. 그는 2016년 대담에서 누군가가 강력한 AI를 나쁘게 쓰는 위험을 막기 위해 우리가 뇌에 AI 칩을 박고 ‘AI인간’이 돼야 한다고 밝혔죠. “우리가 집단적으로 AI가 되면 사악한 독재자나 AI를 걱정할 필요가 없다”는 주장인데요.

뭔 뚱딴지 같은 얘기인가 하실 수 있는데, 이미 머스크는 뇌 연구 스타트업 ‘뉴럴링크’를 운영 중입니다. AI 칩을 인간의 뇌에 이식해서 컴퓨터와 연결하겠다는 연구를 여전히 하고 있는데요(단, 인체실험은 지난달 FDA가 승인 거부함). 터미네이터의 디스토피아를 피하려면 뇌에 칩을 꽂고 AI인간이 되는 게 최선이다? 이런 머스크의 생각에 얼마나 동의하시나요.

샘 알트만 말대로 AI가 인간을 더 자유롭게 할까? AP 뉴시스

그럼 샘 알트만이 생각하는 AI 기술의 최종 비전은 뭘까요? 그는 “기계가 사람들을 자유롭게 하여 더 창의적인 일을 하도록 하는 새로운 세계 질서를 구축하는 것”이라고 말합니다. 그러면서 그는 ‘보편적 기본 소득’을 주장하는데요. 진보한 AI 기술이 인간의 일자리를 대체하는 건 막을 수 없으니 웬만한 노동은 AI한테 시키고 사람은 다른 창의적인 걸 하면 된다는 겁니다.

어떠신가요. 우리가 꿈꾸는 미래상인가요? 글쎄요. 요제프 바이첸바움 박사(딥다이브에서 ‘일라이자 효과’를 설명하며 소개한 바 있음) 대담집 ‘이성의 섬’에 나오는 대목을 소개하며 마무리합니다.

“컴퓨터가 습관적인 일을 떠맡고 인간들에게는 ‘보다 고차원적인 일들’을 맡긴다는 주장이 있어요. (중략) 맥도널드 계산대에 앉아 있는 사람이 자판에 햄버거 그림이 장착되어 있어서 더 이상 숫자를 읽을 필요가 없다고 생각해보죠. 그림 자판만 정확히 누르면 컴퓨터가 필요한 모든 일을 알아서 처리하는 거예요. 그렇다면 계산대에 앉은 젊은 남자가 횔덜린(독일 시인)과 셰익스피어를 생각한다고 상상해봅시다. 컴퓨터가 습관적인 일을 떠맡았으니까요. 하지만 이는 말도 안 되는 소리에요. 동화일 뿐이죠. 어쩌면 동화보다 신화라고 해야 할 거예요. 신화는 언제나 어떤 신비로운 분위기에 둘러싸이고, 수많은 사람들이 그것을 믿으니까요.” By.딥다이브

‘인간 수준의 AI’를 개발한다는 오픈AI의 목표에 동의하시나요? 솔직히 저는 무엇을 위한 기술 개발인지를 모르는 채 기술 자체에 너무 심취돼 있는 게 아닌가 하는 걱정이 드는데요. 일론 머스크와 샘 알트만 관련한 주요 내용을 요약해 드리자면

-일론 머스크와 샘 알트만은 ‘안전한 인공일반지능 구축’이라는 목표를 가지고 비영리단체 오픈AI를 2015년 설립했습니다. 인간 수준의 AI를 개발하되 이 기술을 모두에게 공개해 AI 기술을 민주화한다는 계획이었습니다.

-머스크는 자신이 CEO가 돼서 이끌겠다는 요구가 거부되자 2018년 오픈AI를 떠났습니다. 이후 오픈AI는 재원 마련을 위해 영리법인을 만들고 MS와 손잡았습니다. 그리고 챗GPT 탄생으로 AI 선두기업으로 올라섰습니다.

-MS와 손잡은 건 ‘비영리’와 ‘오픈소스’라는 원칙에서 어긋난 거 아닐까요. 머스크뿐 아니라 전 오픈AI 부사장도 이를 두고 알트만과 갈등을 빚었습니다. 하지만 영리기업 투자자의 수익을 제한하는 등 어느 정도 안전장치를 뒀다는 평가도 있습니다.

-머스크는 ‘트루스GPT’를 만들겠다며 AI 기술 개발에 도전장을 내밀었는데요. 최종적으로 뇌에 칩을 심은 ‘AI 인간’을 만들겠다는 머스크를 믿어도 될까요. 아니면 ‘보편적 기본소득을 받는 자유롭고 창의적인 인간’이라는 알트만의 비전이 더 신뢰할 만한가요.

*이 기사는 21일 발행한 딥다이브 뉴스레터의 온라인 기사 버전입니다. ‘읽다 보면 빠져드는 경제뉴스’ 딥다이브를 뉴스레터로 구독하세요.
https://www.donga.com/news/Newsletter