텐스토렌트, 웜홀 AI 가속기 판매 돌입··· '증명의 시기 왔다'

캐나다의 AI 가속기 하드웨어 스타트업, 텐스토렌트가 지난 18일, 축소 명령어 집합 컴퓨터(RISC-V) 기반의 AI 가속기 ‘웜홀(Wormhole)’의 사전 주문을 시작했다. 텐스토렌트는 지난 2016년 류비사 바이치가 창업한 컴퓨터 하드웨어 스타트업으로, 2021년에 현대 반도체의 아버지라 불리는 짐 캘러가 기술최고책임자로 부임하며 화제를 모았다. 짐 캘러는 2023년 최고경영자로 올라서며 현재 텐스토렌트를 이끌고 있다.

텐스토렌트의 웜홀은 2021년 공개된 ‘그레이스컬’에 두 번째 라인업 제품으로, RISC-V를 기반으로 한다. RISC-V는 리스크파이브라고도 읽으며, 누구나 칩과 소프트웨어를 설계 및 제조, 판매할 수 있는 오픈소스 반도체다. 무료로 쓸 수 있는 만큼 Arm, MIPS 테크놀로지스 등 상업용 반도체를 대체할 수 있고, 우수한 와트당 성능과 낮은 발열 덕분에 잘 만든다면 시장 가능성은 높다.

텐스토렌트가 출시한 웜홀 RISC-V 기반 AI 가속기 / 출처=텐스토렌트

이러한 우수함에도 불구하고 RISC-V는 시장에서 크게 주목을 받지 못하는데, 프로세서 설계 및 개발의 어려움과 개발 비용의 한계 때문이다. 또한 Arm 등의 반도체는 자산 기업을 중심으로 표준화가 되어있는 반면, 개발에 필요한 파편화가 심하고, 기존 칩을 대체할 만큼 성능을 높이기도 쉽지 않다. 하지만 텐스토렌트의 제품은 짐 켈러라는 전설적인 반도체 설계자가 주도하고 있어서 시장의 기대를 모으고 있다.

텐스토렌트 ‘웜홀’은 어떤 반도체?

이번에 공개된 웜홀은 기본적으로 72개의 텐식스 코어를 갖춘 웜홀 n150, 128개의 코어를 갖춘 웜홀 n300 AI 가속기 카드가 기본이며, 여기에 네 개의 n300이 탑재된 TT-라우드박스(LoudBox), TT-콰이어트박스(QuietBox)가 개발자 형태로 제공된다. n150, n300은 기계학습(머신러닝)용 GPU의 대안으로 설계된 반도체로, TT-부다(Buda) 및 TT-메탈륨(Metallium)을 통해 간단한 AI 프로젝트를 구현한다.

웜홀 n150s의 구매 페이지, 엔비디아 GPU에 비해 상대적으로 저렴한 가격과 2주 밖에 걸리지 않는 배송 기한이 인상적이다 / 출처=텐스토렌트

하드웨어는 x86 아키텍처 기반 시스템에서 동작하며, PCIe 4.0x16 슬롯으로 장착한다. 메모리는 n150이 12GB GDDR6, n300이 24GB GDDR6 메모리를 탑재하며, 처리 성능은 FP8 기준 262 테라플롭스, 466 테라플롭스다. 소비전력은 160와트 및 300와트다. 라우드박스는 4개의 웜홀 n300 카드가 탑재되며, 콰이어트박스는 액체 냉각을 통해 소음을 더 줄였다.

왼쪽부터 순서대로 웜홀 n150 및 n300, TT-라우드박스 및 TT-콰이어트박스 주요 정보 / 출처=텐스토렌트

가격은 웜홀 n150이 999달러(약 138만 원), n300이 1399달러(약 194만 원)다. 라우드박스는 12000달러(약 1667만 원대), 콰이어트박스는 15000달러(약 2083만 원대)로 책정됐다. 텐스토렌트는 관련 소프트웨어 자료를 깃허브 공식 페이지에 공개했으며, 제품에 따라 2주에서 최대 10주 내로 배송 예정이다.

성능으로 살펴보는 웜홀의 시장 가능성

단순 성능으로 볼 때 웜홀 n150 및 n300의 성능은 높지 않다. n300의 처리 성능은 300W 소비전력 기준 FP8로 466 테라플롭스다. 엔비디아 H100가 300W로 FP8에서 1670 테라플롭스니 세 배 정도 차이 난다. 하지만 가격은 n300이 1399달러, H100의 비공식 소매가는 3만~4만 5000달러(약 4000만 원~6000만 원대)로 최대 30배나 차이 난다. H100의 호환성 및 확장성 등이 압도적으로 우수하지만, 불편함을 감수하더라도 웜홀을 쓰는 기업들이 있을 것이다.

텐스토렌트 웜홀 n300과 FP8을 지원하는 엔비디아 H100과의 가격 비교 / 출처=IT동아

AI 가속기가 노리는 시장이 바로 이 시장이다. 대다수 AI 가속기 기업들이 엔비디아의 대체제를 꿈꾸지만, 현재 시장 상황에서 엔비디아의 대체제가 나오는 건 어렵다. 엔비디아는 지금의 시장 점유율을 위해 2006년부터 쿠다 언어를 개발해 배포했고, GPU를 GPGPU로 활용하는 개념을 도입하는 등 20여 년에 걸쳐 생태계를 쌓아왔다. 게다가 엔비디아가 소형 추론 칩으로 이 시장까지 넘볼 가능성도 충분하다. 직접 경쟁이 어려우니 수요를 알아서 찾아 만들어야 한다.

시장조사기업 스태티스타는 올해 GPU 시장 규모를 653억 달러(약 90조 5000억 원)로 예측하며, 연평균 33.2%씩 성장해 2029년에 2742억 달러(약 380조 원)까지 확대될 것으로 봤다. 이 시장 대다수는 현재 70~95% 점유율을 갖춘 엔비디아가 몰아갈 예정이지만, 0.2%만 확보해도 1800억 원대 규모의 시장을 가져올 수 있다.

텐스토렌트가 본격적으로 제품을 판매하기 시작한 만큼, 경쟁 기업들도 점유율 확보에 뛰어들어야 한다. 세레브라스는 올해 안에 상장을 통해 자금을 조달하며, 퓨리오사AI는 9월 중 2세대 제품을 정식 공개한 뒤 판매에 돌입한다. 리벨리온은 아톰 양산을 시작했지만, 차세대 칩은 내년에 공개할 예정이어서 조금 늦는 감이 있다. 올해 말부터 내년까지가 수요 경쟁의 분기점이 될 전망이다.

IT동아 남시현 기자 (sh@itdonga.com)