“챗GPT를 더 똑똑하게”… SK하이닉스, ‘생성형AI 특화’ 연산형 메모리반도체 시제품 첫선

미국서 ‘AI서밋 2023’ 개최
연산 메모리 칩 ‘GDDR6’ 여러 개로 성능↑
기존 GPU(비메모리) 대비 반응 10배↑
“전력 소모는 5분의1 수준”
“챗GPT 등 생성형AI 개선 방향성 제시”

SK하이닉스는 지난 12일(현지시간) 미국 캘리포니아주 메리어트 산타클라라 호텔에서 사흘간 열린 ‘AI서밋(AI Hardware & Edge AI Summit) 2023’을 통해 ‘GDDR6-AiM’ 기반 생성형 AI 가속기카드인 AiMX(AiM based Accelerator) 시제품을 최초로 공개·시연했다고 18일 밝혔다.

AI서밋은 영국 마케팅 업체 키사코리서치(Kisaco Research)가 주최하는 연례 행사다. 글로벌 IT기업과 스타트업이 참가해 인공지능(AI)과 머신러닝 개발 성과를 공유하는 자리다. SK하이닉스는 올해 3번째로 참가했다.

이번 서밋에서 SK하이닉스는 슬로건(Boost Your AI : Discover the Power of PIM with SK hynix’s AiM)을 내걸고 AI 성능을 높여주는 반도체 제품 기술력을 과시했다. PIM(Processing-In-Memory, 연산 기능이 더해진 메모리반도체, AI와 빅데이터 처리 분야에서 데이터 이동 정체 문제를 풀어낼 수 있는 차세대 기술로 통한다.) 반도체 제품인 ‘GDDR6-AiM’ 여러 개를 연결해 성능을 끌어올린 가속기 카드 AiMX 시제품을 처음 선보였다.

SK하이닉스는 작년 2월 차세대 메모리반도체(PIM)인 GDDR6-AiM을 개발했다고 발표한 바 있다. 1년 반 만에 해당 제품 활용성을 극대화한 시제품 실물을 글로벌 무대에서 공개한 것이다. AiM은 SK하이닉스의 PIM 계열 반도체(GDDR6-AiM) 제품명을 말한다. AiMX는 SK하이닉스 GDDR6-AiM 칩을 사용해 대규모 언어모델(대량 텍스트 데이터로 학습하는 인공지능, 챗GPT 등을 말한다.)에 특화된 가속기 카드 제품이다.

생성형AI(Generative AI, 이용자 요구에 따라 결과를 능동적으로 전달하는 AI 기술)는 데이터 학습량이 많을수록 우수한 결과를 낸다. 때문에 대량 데이터를 다루면서 저전력, 고속으로 작동하는 메모리가 필요하다.

SK하이닉스는 메타(Meta)의 생성형AI인 ‘OPT(Open Pre-trained Transformer) 13B’ 모델을 AiMX 시제품을 탑재한 서버 시스템에서 시연했다. GDDR6-AiM 칩을 탑재한 AiMX 시스템은 GPU를 탑재한 시스템 대비 반응 속도가 10배 이상 빠르지만 전력 소모는 5분의1 수준이라고 한다. 이번 시연에서 최신 가속기 대비(맞춤 회로 적용 시) 높은 성능을 낼 수 있다는 점을 보여줘 인공지능을 서비스하는 글로벌 기업들의 주목을 받았다고 SK하이닉스 관계자는 전했다.

AiMX 장점을 구체적으로 설명하는 세션 발표도 현장에서 진행했다. SK하이닉스 임의철 메모리솔루션담당 부사장은 ‘생성형AI 서비스를 이한 효율적 AiM 가속 솔루션’을 주제로 GPU와 AiMX의 성능을 비교했다. 차세대 지능형 메모리 반도체의 방향성도 설명했다.

임의철 SK하이닉스 메모리솔루션담당 부사장은 “SK하이닉스의 AiMX는 기존 GPU를 사용할 때보다 고성능, 저전력에 비용까지 절감할 수 있는 솔루션”이라며 “앞으로도 AI 시대를 이끌어갈 메모리 기술 개발을 이어나갈 것”이라고 말했다.