우리는 엔비디아의 시대에 살고 있습니다(上)[김성모 기자의 신비월드]

글로벌 신(新) 비즈니스 가이드

‘신비월드’는 세계 각국에서 세상을 이롭게 이끄는 혁신적인 기업과 새로운 정보기술(IT) 소식들을 소개합니다. ‘파괴적 혁신’을 꾀하는 스타트업부터 글로벌 주요 기업까지, 빠르게 변해가는 ‘신(新) 글로벌 비즈니스’를 알차게 전달하겠습니다.

● 마약보다 구하기 힘든 ‘H100’

“지금 (엔비디아의) 그래픽처리장치(GPU)를 구하기가 마약보다 어렵다.”

미국 반도체 기업 엔비디아가 전 세계 정보기술(IT) 기업들을 쥐락펴락하고 있다. 엔비디아의 주력 제품이 인공지능(AI) 연구·개발의 필수재로 꼽히면서 품귀 현상을 빚을 정도로 수요가 몰리고 있어서다. 일론 머스크 테슬라 최고경영자(CEO)는 지난해 5월 미 월스트리트저널(WSJ)의 한 행사에서 엔비디아의 GPU 부족에 대해 언급했다.

품귀 현상은 현재 진행형이다. 현재 엔비디아의 최고 사양 GPU인 ‘H100’은 6개월은 기다려야 받아볼 수 있다. IT 기업들은 기다려서라도 받겠다는 상황이다. 글로벌 시장 조사 기관 퓨처럼그룹의 수석 애널리스트인 대니얼 뉴먼은 “고객들은 엔비디아 경쟁사에서 제품을 구매하기보다 엔비디아 것을 기다리고 있다”며 “6개월이 아니라 1년 6개월을 기다려서라도 받을 것”이라고 강조했다.

이 같은 분위기는 엔비디아 실적에서 고스란히 나타났다. 엔비디아는 지난해 매출이 609억 달러(약 80조3900억 원), 영업이익은 329억 달러(약 43조4300억 원)로 전년보다 각각 125%, 311% 증가했다고 지난달 22일(현지시간) 밝혔다. 4분기(11~1월) 영업이익은 전년 같은 기간보다 무려 983%나 뛰었다. 시장 전망치를 넘어선 수치다.

엔비디아는 “H100과 같은 서버용 AI 칩 판매가 실적을 이끌었다”고 밝혔다. 엔비디아 매출의 대부분을 차지하는 데이터센터 사업도 409% 성장했다. 실적 발표 직후 뉴욕증시 시간외거래에서 엔비디아의 주가는 9.5%까지 증가했다.

엔비디아의 주가는 연일 상승세다. 연초 470달러 수준에서 이달 8일 974달러까지 치솟았다. 지난해 6월 1조 달러(약 1310조 원) 수준이었던 엔비디아의 기업가치는 2조 달러(약 2620조 원)마저 넘어섰다. 엔비디아는 세계 최대 석유기업인 사우디 아람코를 제치고 세계에서 세 번째로 비싼 회사가 됐다. 1위와 2위는 마이크로소프트(MS)와 애플이다.

뉴스트리트리서치 피에르 페라구 애널리스트는 “빅테크 업계에서 가장 강력한 인물들도 엔비디아 CEO인 젠슨 황에게 정말, 정말, 정말 정중하게 행동하고 있다. 모두가 엔비디아를 화나게 할까 봐 두려워한다”고 말했다.

엔비디아 GPU가 뭐길래, 얼마나 중요하면 이렇게 난리일까. 엔비디아는 어쩌다가 이토록 중요한 제품을 개발하게 됐을까.

● 김밥천국을 좋아하는 남자

엔비디아를 창업한 젠슨 황 CEO는 1963년 2월 17일(농구 황제 마이클 조던과 같은 날 출생) 대만의 남부 지역에서 태어났지만, 대부분을 해외에서 살았다. 캐리어(에어컨 회사) 엔지니어였던 아버지가 ‘기회의 땅’에서 젠슨 황이 성장하기를 희망해서다. (황이 4살 무렵 미국 뉴욕에 갔다가 깜짝 놀라는 모습을 보고, 이 같은 다짐을 했다고 한다)

젠슨 황의 부모는 황이 9살이 되자 미국 켄터키주 오네이다의 저렴한 기숙학교에 입학시켰다. 황은 “오네이다 마을에 온 최초의 중국인”이라고 회상했다. 등록금이 저렴한 데에는 다 이유가 있었다. 사고 친 아이들이 모이는 특수학교였기 때문. 교도소에서 막 출소한 그의 룸메이트는 일곱 군데의 자상(刺傷)에서 회복 중이었다. 황은 학교에서 인종 차별과 따돌림을 당했는데(칼에 찔린 적도 있다고 함), 좌절하지 않고 화장실 청소를 도맡아 했다. 자신보다 8살 많은 룸메이트에게는 수학을 가르쳐줬다.

가정형편 탓에 몇 년이 지나서야 젠슨 황의 부모가 미국에 건너왔다. 가족은 워싱턴주를 거쳐 오리건주 포틀랜드 교외로 이사했다. 당시 공립학교에 다니던 황은 학업에서 재능을 보여(특히 수학) 남들보다 2년 일찍 오리건주립대에 입학했다. 전공은 전기공학.

반도체 산업에 발을 담근 건 1985년 대학을 졸업하고 나서다. 황은 자신만큼 전기공학을 사랑한 아내를 만나 실리콘밸리로 이사했다. 반도체 기업 AMD(오늘날 엔비디아의 최대 라이벌)에 취업한 황 CEO는 일과 학업을 병행했다. 8년여 끝에 미 스탠퍼드대에서 전기공학으로 석사 학위를 받았다.

엔지니어 경험을 쌓은 젠슨 황은 몇 년 후 LSI로직이라는 브로드컴 자회사로 이직했는데, 그의 가장 큰 고객사 중 한 곳이 컴퓨터 소프트웨어 회사(자바 언어 개발) ‘썬 마이크로시스템즈’였다. 1992년 석사 학위를 마친 황은 어느 날 썬에서 친하게 지내던 엔지니어들(크리스 말라코프스키, 커티스 프리엠)과 축하 자리를 가졌다.

황은 자신이 좋아하는 ‘데니스(Denny‘s)’에서 친구들을 보기로 했다. 데니스는 나초, 햄버거, 샌드위치 등 ‘미국식 백반’을 파는 패스트푸드 체인점이다. 지점이 많고 24시간 영업해 ‘미국의 김밥천국’, ‘미국의 기사식당’으로 불린다. 학창 시절에 여기서 아르바이트했던 황은 “이때 경험이 외향적인 성격을 갖는 데 도움이 됐다”고 했다. 지난해 그는 미 시사주간지 뉴요커와의 인터뷰도 데니스에서 했다.

이곳에서 셋은 운명을 바꿀 대화를 나눴다. 썬의 엔지니어들은 “직장생활이 재미없다”면서 ‘게임용 3차원(3D) 그래픽카드’를 함께 개발하자며 창업을 제안했다. 일반 PC나 비디오게임에서도 3D 기술을 활용할 수 있도록, 그래픽을 ‘가속(업무 처리 속도를 증폭)’하는 보급형 장치를 만들어보자는 아이디어였다. 평소 게임을 좋아했던 황은 금세 마음을 빼앗겼다.

당시 3D 그래픽에 관한 관심이 뜨거웠다. 영화 ‘쥬라기 공원’이 곧 개봉할 예정이었다. 다만, 3D 그래픽은 쥬라기 공원 제작비 정도는 있어야 활용할 수 있는 ‘비싼 기술’이었다.

이들의 안목이 대단한 이유는 대화를 나눈 시기가 1993년이었기 때문이다. PC(개인용 컴퓨터) 게임 시장 자체가 아직 존재하지도 않았다. 마이크로소프트의 ‘윈도 95’는 1년 반 후에나 등장했다. 시장이 생겨나기도 전에 제품부터 떠올린 셈이다.

엔비디아 공동 창업자인 커티스 프리엠(사진 왼쪽부터), 젠슨 황, 크리스 말라코프스키. (엔비디아)

● “우리 회사 폐업까지 30일 남았습니다”

세 사람은 실리콘밸리의 유명 벤처투자사인 세퀘이아 캐피털 등에서 창업 자금을 지원받아 캘리포니아주 실리콘밸리에 사무실을 마련했다.

회사 이름부터 지어야 했다. 당시 이들은 첫 번째 그래픽 칩을 설계하고 있었는데, 작업 중인 파일을 ‘dot-NV’로 저장하고 있었다. ‘NV’는 ‘넥스트 버전(Next Version)’의 약자다. 세 사람은 ‘NV’가 포함된 단어를 찾기 위해 사전을 뒤적거렸다. 그러다가 라틴어 ‘인비디아(Invidia)’를 발견했다. 그리스 신화에 나오는 ‘질투의 여신’의 이름이다. 그렇게 최초의 그래픽카드 전문 회사 ‘엔비디아(Nvidia)’가 탄생했다.

그에게 사업은 수학만큼 쉽지 않았다. 엔비디아는 처음 게임 기기용 그래픽 칩(카드)을 개발했는데 새로운 설계방식(아키텍처)을 택했다가 쫄딱 망했다. 3D PC 게임의 가능성을 본 것은 엔비디아만이 아니었다. MS는 윈도에서 개발자들이 3D 게임을 만들 수 있도록 개발 생태계(DirectX)를 만들고 있었다. 개발자들은 윈도에서 직접 3D 그래픽을 구현하길 원했다. 엔비디아의 제품은 윈도 생태계에서 호환이 제대로 되지 않았을 뿐만 아니라, 개발자들이 ‘듣보잡’ 회사 제품에 관심 자체가 없었다.

엔비디아는 100여 명의 직원 중 70%를 해고해야 했다. 더 큰 문제는 ‘직원’이 아니라 ‘시간’이었다. 그래픽카드를 다시 설계하고, 프로토타입을 만든 뒤 파운드리(제조사)를 오가는 테스트 과정에 통상 2년은 걸리기 때문이다. 그동안 경쟁사들은 가만히 있을까.

엔비디아는 100만 달러(약 13억 원)의 거금을 들여 이 과정을 대신할 수 있는 소프트웨어(에뮬레이터)를 구매했다. 개발한 그래픽카드의 기능이 여러 PC에서 잘 작동하는지, 호환에는 이상 없는지 등을 빠르게 확인하기 위해서였다. 아주 검증되지 않은 스타트업의 기술이었지만, 엔비디아에는 선택의 여지가 없었다.

엔비디아는 이를 통해 6개월 만에 두 번째 그래픽카드인 ‘RIVA 128’을 1997년 8월 선보였다. PC용 그래픽카드인 RIVA 128은 경쟁사보다 1년 이상 앞선 제품이었다.

게이머들 사이에서 금세 입소문이 나면서 RIVA 128은 4개월 만에 100만 대나 팔렸다. ‘스타크래프트’ 출시 등 ‘게임 황금기’로 불린 1998년 엔비디아는 410만 달러(약 54억 원)의 이익을 거뒀다. 다음 해 엔비디아는 미국 증시에 상장됐다. 황은 “휘청거렸던 때가 여러 차례 있었습니다. 하지만 전 무너뜨리기 가장 어려운 CEO라고 불립니다”라고 말했다.

참고로 RIVA 128 제품이 출시됐을 때 엔비디아에 남은 돈은 직원들 한 달 치 월급 정도였다고 한다. 이후 몇 년 동안 엔비디아는 직원 프레젠테이션 때 ‘우리 회사는 폐업까지 30일 남았다’는 말로 발표를 시작했다.

젠슨 황 엔비디아 CEO가 데니스에서 식사하는 모습. 지난해 엔비디아의 기업가치가 1조 달러를 돌파했을 때 데니스가 소셜미디어에 이 사진을 올렸다. (데니스 인스타그램)

● 스타트업 대표가 TSMC에 보낸 편지

황이 자신을 ‘좀비 CEO’로 칭한 데는 단순히 사업 위기를 극복했기 때문만은 아니다. CPU의 세상에서 GPU(Graphics Card, 그래픽카드)를 살려냈다는 의미이기도 하다.

젠슨 황에 따르면 인텔은 엔비디아를 여러 차례 퇴출하려고 시도했다. 황은 인텔과 엔비디아를 ‘톰과 제리’에 비유하면서 “인텔 근처에는 얼씬도 안 한다. 인텔이 가까이 올 때마다 나는 칩(GPU)을 들고 도망친다”고 말했다.

과거만 해도 GPU 시장은 틈새시장에 가까웠다. 당시 PC 시장은 훨씬 더 똑똑한 인텔의 중앙처리장치(CPU, Central Processing Unit)가 점령하고 있었다.

CPU는 사람이 디지털 기기에 특정 업무를 지시하면 이를 해독하고, 제어하고, 계산하는 장치다. 컴퓨터 ‘두뇌’라고 보면 된다. 인텔의 CPU는 1980년대 PC에 탑재된 이후로 거의 모든 분야에 사용됐다. 데이터 처리 시장에서 99%라는 어마어마한 점유율을 차지했었다. 인텔이 수십 년 동안 세계 최대 칩 제조업체로 자리할 수 있었던 이유다. (현재는 아님)

앞으로 언급할 유튜브 추천 알고리즘과 구글의 광고 추천, 챗GPT 등장에서 엔비디아의 역할을 이해하려면 CPU와 GPU의 차이를 알고 넘어가야 한다.

어렵고 복잡한 연산을 수행하는 CPU는 차례대로 업무를 수행하는 장치다. 저장한 엑셀 파일을 불러오고, 인터넷을 실행하고, 동영상을 재생하는 작업을 CPU가 한다. 반면, GPU는 복잡한 수학 작업을 아주 작은 계산으로 나눈 다음에 ‘병렬 컴퓨팅’이라는 방식으로 한꺼번에 처리한다.

대형마트에 장을 보러 간다고 생각해보자. 쇼핑카트를 직접 밀면서 쇼핑하는 것이 CPU다. 마트 통로를 돌아다니며 적어 놓은 쇼핑목록을 하나씩 집어넣고 계산대로 간다. 빠르진 않지만, 상대적으로 정확하게 할 수 있다.

GPU는 여러 사람에게 손바구니를 쥐여주고 각자 사 올 것을 지시하는 개념이다. 각자 흩어져 과일이나 화장지, 물, 고기 등을 담아온다. 손바구니에 TV나 청소기를 담아오긴 어렵지만, 크기가 상대적으로 작은 제품들을 빠르게(동시에 흩어져 가져오는 만큼) 쇼핑할 수 있다. 다량의 단순 업무를 수행할 때, 상대적으로 정확도보다 속도가 중요할 때 GPU가 적합하다는 의미다.

처음 GPU가 비디오게임용으로 개발된 것도 이러한 이유에서다. 이미지 픽셀들을 하나하나 명령해 동시에 모니터에 출력해야 하기 때문이다. CPU도 게임용으로 활용은 가능하지만, 1초당 화면이 수십 번 이상 바뀌는 게임에서는 GPU가 더 적합하다. 미 블룸버그통신은 “엔비디아가 존재하는 동안 가장 중요한 것은 인텔에 의해 파괴되지 않는 것”이라며 “게임은 엔비디아가 GPU라는 틈새시장을 개척하는 데 도움이 됐다”고 전했다.

엔비디아가 RIVA 128로 50억 원 이상을 벌었지만, 아직은 스타트업 수준. 그런데, 이때 엔비디아는 대만 TSMC와 위탁생산 계약을 맺었다. 믿기 어려운 일이었다.

2017년 TSMC 창립 30주년 행사에서 비밀이 밝혀졌다. 엔비디아는 사업을 시작하고 TSMC에 계속 접촉을 시도했지만, 번번이 씹혔다. 젠슨 황은 RIVA 128이 소기의 성과를 내고 나서 대만에 있는 모리스 창 TSMC 창업자에게 직접 편지를 써서 보냈다.

모리스 창은 편지를 읽자마자 젠슨 황에게 전화를 걸었다. 황과 직원들은 고객에게 보낼 RIVA 128 제품이 이상은 없는지 수작업으로 테스트하느라 정신이 없는 상황이었다.

처음 보는 전화번호에 황은 “누구시죠?”라고 물었고, 모리스 창은 자신이 누군지 밝히며 “편지 잘 받았다”고 인사했다. 몇 초 동안 전화에서 침묵과 환호성이 공존했다. 사업을 시작한 지 얼마 안 된 스타트업 대표가 이재용 삼성전자 회장의 전화를 받았다고 상상해보자. 일단 수화기를 막고 소리치지 않았을까. 딱 그 상황이다.

둘이 통화한 다음 해에 엔비디아는 TSMC와 장기 위탁생산 계약을 체결했다. 이때 맺어진 인연이 현재까지 이어지고 있다. 엔비디아가 이후 내놓은 ‘괴물 GPU’들을 시장에 안정적으로 공급할 수 있었던 데에는 TSMC의 역할이 컸다.

1993년 엔비디아 사무실에서 엔비디아 공동 창업자인 커티스 프리엠이 비디오 게임을 즐기는 모습. (엔비디아)

● 엔비디아와 개발자들의 첫 연결고리 ‘지포스’

엔비디아는 RIVA 128을 계속 업그레이드시켰는데, 1999년 공모전을 통해 그래픽카드의 이름을 지었다. ‘지오메트리 포스’를 줄인 ‘지포스(GeForce)’다. 이는 엔비디아의 첫 브랜딩 시도였다. 결국, 지포스는 수년간 엔비디아를 대표하는 상징이 됐다.

엔비디아는 1999년 8월 지포스 이름을 단 제품(지포스 256)을 선보였는데, 이 모델이 최초의 GPU(Graphics Card)로 꼽힌다. 이전에는 ‘그래픽카드’나 ‘그래픽칩’으로 불렸다. 지포스 256은 경쟁사 GPU들보다 성능이 5배가량 뛰어났다. 쉽게 말해, 경쟁사보다 더 좋은 화질을 더 빠르게 구현하는 기술을 내놨다는 의미다.

2000년 스탠퍼드대에서 컴퓨터 그래픽을 공부하던 대학원생 이안 벅은 23개의 지포스 GPU를 연결해 ‘퀘이크’라는 게임을 즐겼다. 그는 “8K 해상도의 첫 번째 게임 장비였다”며 “게임을 위한 장비가 벽 한쪽을 통째로 차지했는데, 정말 아름다웠다”고 회상했다.

지포스 시리즈는 단숨에 게임용 그래픽카드 시장을 평정했다. 2013년(엔비디아 설립 20주년) 기준 전 세계 PC의 70%가 엔비디아의 GPU를 썼다. 엔비디아는 MS 콘솔 게임기 엑스박스(Xbox)에 GPU를 공급하기도 했다. 마이크로소프트와 연간 5억 달러(약 6600억 원) 규모의 계약을 체결한 것으로 알려졌다.

엔비디아의 GPU가 다른 그래픽카드와 큰 차이를 보인 것 중 하나가 프로그래밍 도구인 ‘셰이더(Shader)’다. 조명, 입체감, 그림자 등을 개발자들이 직접 다룰 수 있는 프로그래밍 기능을 GPU(정확히는 지포스3)에 넣은 것. 엔지니어가 명령어를 넣는 일상 작업뿐만 아니라, 팔레트에 그림을 그리는 것처럼 창의성을 발휘해 화면을 구현할 수 있게 했다.

이러한 기술 개발은 사업적인 측면에서도 의미가 크다. 하드웨어 성능뿐만 아니라 (우리 하드웨어에서만 작동하는) 소프트웨어를 구축해 차별화한 것이기 때문이다. 애플이 아이폰뿐만 아니라 앱스토어를 만들어 개발자들이 각종 앱을 만들게 한 것과 유사하다. 엔비디아는 이후 개발한 프로그래밍 플랫폼 ‘쿠다(CUDA)’에서 이 같은 전략을 극대화한다.

엔비디아는 마이크로소프트와는 컴퓨터 프로그래밍 언어(CG)도 만들어 GPU 개발 생태계를 구축했다. 일각에서는 이때부터 ‘개발자’라는 개념이 생겨난 것으로 본다.

엔비디아가 기술적으로나 사업적으로 뛰어났던 또 다른 이유는 독보적으로 빠른 신제품 출시 간격이다. 엔비디아는 코로나19 시기를 제외하고는 거의 6개월마다 성능이 향상된 새 제품을 선보였다. 반면, 1년 반에서 2년마다 새로운 것을 내놨던 경쟁사들은 하나둘씩 조용히 사라졌다.

젠슨 황 CEO가 엔비디아의 인공지능 슈퍼컴퓨터 ‘DGX-H100’을 고객에게 전달하기 전에 사인하고 있다. (엔비디아)

● 거대한 아르키메데스 지렛대

그런데, 게임용 장치를 만들던 엔비디아는 어쩌다가 인공지능 분야에 뛰어들게 됐을까.

2000년대 초반 엔비디아가 그래픽카드 시장에서 한창 잘 나가고 있을 무렵 젠슨 황은 스탠퍼드대의 한 양자화학 연구원의 전화를 받았다. 그는 다짜고짜 “당신 덕분에 오래 걸릴 연구를 단번에 해치웠다. 감사하다”고 인사했다.

분자 관련 모델을 만들던 연구원은 단순 연산에 시간을 허비하고 있었다고 한다. 학교의 슈퍼컴퓨터를 이용해도 몇 주나 걸리는 작업이었다. (초기 슈퍼컴퓨터가 CPU의 성능 위주로 구성돼 있었기 때문) 그런데 게임에 빠져 있던 아들이 단순 계산 작업이니 지포스(GPU)를 활용해보면 어떻겠냐고 제안했다.

연구원은 가전제품 매장인 프라이스에 가서 지포스 여러 개를 구매해 몇 시간 만에 연산을 해치웠다. 결과를 믿을 수 없었던 연구원은 스탠퍼드대의 슈퍼컴퓨터에서 똑같은 작업을 수행했다. 몇 주 뒤 나온 결과는 다르지 않았다.

황은 이를 통해 게임 화면 개선 이외에 GPU의 활용 가능성을 알아챘다. 그는 GPU를 ‘거대한 아르키메데스의 지렛대’라고 부르기 시작했다. 무거운 것(대규모 작업)을 들어 올릴 수 있는 GPU의 능력을 비유한 것이다. GPU는 패턴과 관계를 인식하고, 추론하고, 예측하는 능력을 발휘하기 시작했다. 최근 10년 동안 인공지능 속도가 100만 배 이상 향상된 배경에는 엔비디아의 GPU가 있었다.

사실, 엔비디아의 GPU는 인공지능 열풍이 불기 한참 전부터 우리 일상에 스며들어 있었다. 유튜브 영상 추천, 인스타그램 피드, 구글 광고 등이 전부 GPU를 활용한 알고리즘으로 작동한다. 한국벤처창업학회장을 역임한 전성민 가천대 경영학 교수는 “엔비디아는 처음에는 핵심 고객인 게이머들을 만족시키기 위해 GPU 성능을 계속 발전시켜나갔다. 그 덕분에 알고리즘 추천이나 AI 등 새로운 시장에서 돋보일 수 있게 됐다”고 말했다.

물론, 단번에 엔비디아가 이를 실현한 것은 아니었다. 인공지능 시대를 준비하는 10년여 간의 과정이 있었다. 2012년 이미지 인식 대회에 참가해 세상을 놀라게 한 미 토론토대 연구원들 이야기 역시 빼놓을 수 없다.

‘우리는 엔비디아의 시대에 살고 있습니다(下)’ 편은 30일 소개합니다.