“엔비디아 잡아라” 반도체 팹리스들 ‘추리형 AI’ 집중 공략

학습형과 달리 AI가 답안 추론
저성능-저전력 칩으로도 경쟁력
스타트업 10곳중 6곳 ‘추론’ 승부
국내 팹리스도 연내 양산 기대감

인공지능(AI) 반도체 시장을 사실상 독점 중인 엔비디아에 대항해 국내외 반도체 팹리스(설계 전문) 스타트업들의 도전이 거세지고 있다. 성능이 비교적 낮아도 가성비 및 전성비(전력 대비 성능 비율)로 승부할 수 있는 ‘추론형 AI 반도체 시장’에서는 승산이 있다고 보고 집중 공략하는 것이다. 국내 팹리스 기업도 삼성전자, TSMC 등 파운드리와 협력해 본격적인 경쟁에 나선다는 전략이다.

AI 반도체 시장은 크게 학습(training)과 추론(inference)으로 구분된다. 대규모 데이터를 학습시켜 GPT와 같은 AI 모델을 만들어내는 과정에는 학습용 AI 반도체가 필요하다. 엔비디아가 주력인 시장이다. 반면 ‘추론’은 AI 모델이 사용자의 각종 요청에 따라 ‘생각해서’ 답을 내놓는 과정을 뜻한다.

대규모 데이터를 소화해야 해 고성능 AI 반도체가 필요한 ‘학습’ 과정과 달리, 추론에는 비교적 저성능·저전력의 칩도 경쟁력이 있다는 것이 업계의 평가다. 국내 AI 반도체 팹리스 기업 관계자는 “AI 학습을 위해선 엔비디아 칩을 쓰더라도 수만 개를 묶어야 한다. 하지만 추론은 비교적 적은 칩을 가지고도 경쟁을 할 수 있다. 스타트업도 해볼 만한 시장인 셈”이라고 말했다.

실제 투자도 몰리고 있다. 반도체 전문 매체 세미콘덕터 엔지니어링에 따르면 올해 2분기(4∼6월) 투자를 받은 상위 10개 반도체 관련 스타트업 중 6곳이 추론형 AI 반도체를 개발하는 기업으로 분석됐다. 이들 6곳이 2분기 유치한 투자액만 세계적으로 7억4650만 달러(약 1조314억 원)에 이른다. 대표적으로 이스라엘의 AI 반도체 스타트업 ‘헤일로’는 4월 1억2000만 달러(약 1658억 원) 수준의 시리즈C 투자를 받았다. 이 회사는 개인용 컴퓨터, 차량, 로봇 등 기기에서 AI를 가동할 수 있는 온디바이스(기기 탑재) AI 추론 반도체를 개발하고 있다. 역시 온디바이스 AI 추론 칩을 개발 중인 국내 기업 딥엑스도 5월 1100억 원 규모의 투자를 받아 순위에 올랐다.

딥엑스를 비롯한 국내 팹리스 기업들은 삼성전자, TSMC 등 주요 파운드리와 손잡고 연내 추론에 특화된 주요 모델 양산을 진행 중이거나 앞두고 있다. 올 상반기 AI 반도체 ‘아톰’ 양산을 시작한 리벨리온은 차세대 모델 ‘리벨’을 삼성전자와 함께 설계하고 있다. 올해 4분기(10∼12월) 설계 완료가 목표다. 사피온은 기존 ‘X220’에 이은 차세대 모델 ‘X330’의 양산을 올 상반기(1∼6월) 시작했다. 퓨리오사AI는 지난해 선보인 ‘워보이’에 이은 차세대 모델 ‘레니게이드’를 올 하반기(7∼12월) 양산할 예정이다. 팹리스뿐 아니라 삼성전자도 네이버와 함께 추론에 특화된 AI 칩 ‘마하-1’을 개발 중이다.

현재까지는 학습과 추론 시장 모두 엔비디아가 90% 이상의 점유율을 기록하고 있지만, AI 운영 과정에서 대규모의 전력 소비가 문제가 되며 추론 시장에서는 ‘전력 대비 성능’이 높은 가성비 칩 수요가 늘어날 것이라는 전망이 나온다. 앞으로 ‘닭 잡는 데(추론) 소 잡는 칼(엔비디아 반도체)’을 쓰기에는 전력 문제가 발목을 잡을 거라는 얘기다. 퓨리오사AI 관계자는 “과거 학습 대 추론 시장이 9 대 1이었다면, 최근은 4 대 6, 미래에는 1 대 9로 바뀔 것이라고 보고 있다”고 말했다.