메모리 반도체에 AI 수호천사 떴다? HBM이 뭐길래[딥다이브]

‘9만 전자’와 ‘13만 닉스’를 올해 다시 볼 수 있을까요? 삼성전자와 SK하이닉스 주가가 오름세를 타면서 투자자들의 기대감이 커지는데요. 그 배경엔 이게 있습니다. AI(인공지능).

챗GPT 열풍 이후 기업들이 앞다퉈 AI 투자에 나서자 미국 엔비디아 실적이 껑충 뛰어서 시가총액 1조 달러를 돌파했다는 소식, 이미 전해드렸는데요. 여기에 더해 한국 반도체 기업도 AI 시대의 수혜를 보게 될 거란 전망이 나옵니다. 왜 그런지 궁금하신가요. 15일 백길현 유안타증권 애널리스트를 만나 물어봤습니다.

불황에 빠져 허우적거리던 메모리 반도체 업계의 돌파구가 될 AI. 게티이미지

*이 기사는 16일 발행한 딥다이브 뉴스레터의 온라인 기사 버전입니다. ‘읽다 보면 빠져드는 경제뉴스’ 딥다이브를 뉴스레터로 구독하세요.
https://www.donga.com/news/Newsletter

AI와 반도체, 그리고 GPU

-지금 전 세계적으로 가장 핫한 기업이 엔비디아이죠. 이제는 많은 분들이 ‘엔비디아’하면 GPU를 만드는 기업이고, GPU가 인공지능 시대에 꼭 필요한 반도체라는 걸 알고 계시는데요. 왜 GPU 수요가 AI 시대에 이렇게 폭발하는지부터 설명을 좀 해주시죠.

“인공지능(AI) 기술과 관련된 서비스는 사실 옛날에도 있었는데요. 최근 들어 고도화된 상황입니다. 이에 따라 XR(확장현실)∙자율주행∙로보틱스 시장의 성장성이 부각됐고요.

이런 새로운 응용 시장에 들어가는 반도체는 ‘빠른 속도로 일정한 규칙하에 반복적으로 처리해야’ 합니다. 이를 수행하려면 직렬연산(명령어를 한 번에 하나씩 순서대로 처리)의 CPU(중앙처리장치)보다는 병렬연산(동시에 많은 연산을 수행해 속도를 높임)의 GPU(그래픽처리장치)가 적합하죠. 그래서 다른 반도체 칩보다도 GPU에 대한 수요 증가가 AI 시장 성장으로 눈에 띄는 겁니다.”

-CPU보다는 GPU가 더 빠르게 많은 데이터를 처리할 수 있다고 이해하면 될까요?

“일정한 규칙을 갖고 반복적으로 처리해야 되는 건 GPU가 더 잘합니다.”

엔비디아의 최신형 GPU인 ‘H100’. 엔비디아는 AI 칩 시장에서 80%의 점유율을 차지하고 있다. 엔비디아 홈페이지

-GPU 수요가 폭발적으로 늘고 있다던데, 어느 정도로 늘어나는 건가요?

“일단 GPU가 요즘 들어서 부각되긴 하지만, 예전에도 쓰이고 있었어요. 과거 데이터를 보면 대부분 PC∙노트북∙스마트폰 같은 전통 IT 기기들에 많이 쓰였거든요. 하지만 그런 기기에 들어가는 반도체 중엔 GPU보다는 AP(애플리케이션 프로세서) 같은 다른 칩들이 좀 더 중요했기 때문에 GPU가 많이 주목받진 못했습니다.

그런데 최근 들어와서는 GPU가 AI 관련된 서버 쪽에 많이 사용됩니다. 이 AI 관련 서버 GPU에 대한 수요가 지금 폭증을 하고 있는 상황이고요. 이걸 반증하는 데이터가 무엇이냐면, 가격입니다. 글로벌 시장을 봤을 때 2022년 1분기엔 GPU 가격이 300달러 정도밖에 안 됐어요. 그런데 올해 들어와서는 AI 관련된 하이엔드 GPU 수요가 매우 빠르게 증가하면서 가격이 400~500달러까지 올라왔습니다. 지난해 대비 1.5~1.8배로 올라온 상황이죠. 단기에 수요가 빠르게 늘었기 때문에 시장 논리에 따라 그렇게 된 겁니다.”

-구글∙아마존∙메타 같은 기업들도 자체적으로 AI 반도체 칩을 개발하고 있다는 기사가 잇따라 나오던데요. 그렇다 해도 엔비디아가 당분간은 계속 이 시장의 승자로 남을까요?

“반도체 분류를 좀 나눠서 보시면 이해하기 편하실 텐데요. 일단 반도체는 국내 기업이 잘하는 메모리 반도체가 있고, 해외 기업이 주로 하는 비메모리 반도체로 나뉩니다. 그리고 AI 관련된 비메모리 반도체 중에서도 일단 GPU를 말씀 드렸는데요.

사실 GPU는 지금처럼 AI 관련 시장이 막 태동하면서 학습하는 구간에서 많이 쓰이는 칩입니다. 따라서 지금부터 향후 2~3년 동안 AI가 학습을 해야 하는 시기에 많이 사용될 칩이고요.

그 이후엔 우리가 궁극적으로 원하는 게 입력값을 넣으면 AI가 추론과 연산을 다 해서 결과값을 도출해 내는 거잖아요. 그런 결과값 도출을 잘하기 위해서는 학습이 아니라 추론에 대한 칩이 필요하게 됩니다. 이 추론에 대한 칩인 TPU(구글의 텐서처리장치), NPU(신경망처리장치) 등이 방금 질문하신 그 AI 반도체 칩인데요. 이런 칩의 수요가 나중에 가서는 GPU보다 더 빠르게 올라올 가능성은 있습니다.

간혹 이러한 AI 관련 새로운 칩의 성장성을 물어보는 분들도 계시는데요. 아마도 연평균 40~50%의 성장률을 앞으로 5~10년 동안 계속 볼 수 있지 않을까 생각합니다.”

GPU 판매급증에 웃는 K-반도체

SK하이닉스의 HBM3. SK하이닉스는 엔비디아의 최신 AI용 GPU에 HBM3를 공급 중이다. SK하이닉스 홈페이지

-이렇게 AI에 대한 투자와 개발이 활성화되면 고성능 메모리 반도체에 대한 수요도 늘어날 수밖에 없다는 전망이 나옵니다. 고사양 메모리 반도체와 AI가 어떻게 연결이 되는 건가요?

“제가 반도체 중에서도 비메모리에 속하는 GPU를 말씀드렸는데요. 그 GPU를 열어 보면 그 안에 메모리반도체 중에서도 고대역폭 메모리라고 하는 HBM(High Bandwidth Memory)가 들어갑니다.

따라서 앞으로 GPU가 증가하면 그 안에 들어가는 HBM 메모리가 같이 늘어나겠죠. 이런 식으로 같이 성장해나간다고 이해하시면 됩니다. 다만 알아두셔야 할 게, GPU 안에 HBM만 들어가는 게 아니라 그래픽D램이라는 것도 들어갈 수 있습니다. 일부 응용처엔 그래픽D램이, 일부 응용처엔 HBM이 들어가는데요.

이걸 어떻게 나누는지를 보자면, HBM이 그래픽D램 대비 가격이 3~5배 더 높거든요. 그렇기 때문에 HBM은 비싼 제품 위주로 사용할 수밖에 없어요. PC처럼 가격 저항이 높은 제품에는 비싼 HBM을 쓰기 부담스러우니까요. 그래서 보통 B2B에서 쓰는 데이터센터 향 GPU에 HBM을 많이 사용하는 상황입니다. 그렇기 때문에 AI 서버 수요가 증가하면 GPU가 늘어나고, 그 안에 들어가는 HBM도 같이 늘어납니다.”

-HBM은 우리나라 반도체 기업들이 제품력 면에서 앞서가고 있죠?

“네, 맞습니다. 우리나라 분들이 좋아하실 만한 이야기인데요. 글로벌로 봤을 때 메모리 반도체를 가장 잘하는 기업은 삼성전자, SK하이닉스, 그리고 마이크론 정도가 있습니다. 마이크론도 이 HBM이라는 걸 하려고 시도를 계속해왔어요. 시장에서 맨 처음 HBM을 연구개발(R&D)했던 게 2013년 정도인데요. 이후 2015~2017년 마이크론이 열심히 해보려고 시도했습니다.

그런데 그때 마이크론이 내세웠던 HBM 만드는 방식과 삼성전자나 SK하이닉스가 하는 방식이 좀 달랐습니다. 그래서 기술 헤게모니를 둘러싼 싸움이 있었는데요. 결국 국내 기업들이 그 헤게모니를 가져왔고, 그 결과 국내 삼성전자와 SK하이닉스가 HBM 쪽에서 합치면 점유율이 90%대 중반이고요. 이제 시장을 독식하고 있습니다.”

크게보기

삼성전자의 HBM3 신제품에 ‘아이스볼트’라는 이름을 붙였다. 하반기 중 양산에 들어갈 예정이다. 삼성전자 홈페이지

-그동안 한국 메모리 반도체 산업 이야기할 땐 PC 수요나 스마트폰 판매를 가지고 시장을 전망했거든요. 앞으로는 서버 쪽이 더 주된 수요처가 되는 걸까요?

“일반 투자자들이 보실 때 헷갈릴 수 있는데요. AI 관련된 서버와 일반적으로 우리가 말하는 서버가 영역이 좀 다릅니다. 메모리 시장을 놓고 보면 크게 4개의 영역이 있거든요. PC, 스마트폰, 서버, 그리고 그래픽이 있습니다.

앞서 제가 강조했던 고대역폭메모리 HBM 같은 경우엔 그래픽D램 쪽으로 지금 분류가 되고 있어요. 따라서 이 그래픽 영역이 부각될 수 있고요. 많이들 물어보시는 게 ‘그럼 그래픽D램은 지금까지 어떤 식으로 성장해왔나요?’라는 질문인데요.

그동안 그래픽D램은 게임 콘솔 쪽에 대부분 사용이 되었는데요. 닌텐도 게임기를 보면 아시겠지만, 거기 들어가는 메모리는 기껏 해봤자 5~6GB 정도밖에 안 되거든요. 그래서 성장도 안 하는 시장인데다, 그 안에 들어가는 메모리 용량도 작기 때문에 사실 시장에서 관심이 없었는데요.

최근 여기에 HBM이라는 고대역폭 메모리가 포함되고, 용량도 80~120GB의 엄청 큰 게 들어가고 있습니다. 그래서 그래픽D램 쪽이 과거와 다른 성장을 보이면서 시장이 폭증할 수 있는 게 올해와 내년, 내후년에 쭉 가지 않을까 보고 있습니다.”

-사실 지금 당장은 반도체 사업에서 삼성전자나 SK하이닉스가 적자잖아요. 메모리 반도체 업계가 불황에 빠져있는데, 당장 올해 하반기 이 회사들의 실적은 어떻게 전망하세요?

“전통적인 메모리 반도체 영역 이야기로 돌아가자면. SK하이닉스는 실적이 사실 올해 연간으로 적자일 겁니다. 4분기까지 적자 구간이 지속될 거라고 추정하는데요. 그래도 올해 초만 해도 SK하이닉스가 이러다 망하는 거 아니냐는 되게 무시무시한 얘기들이 많았거든요. 그런데 AI라는 수호천사가 나타나서 SK하이닉스가 적자를 좀 줄여나갈 수 있는 부분을 만들어주고 있습니다.

국내 메모리기업 중에서도 SK하이닉스가 워낙 이쪽(HBM) 대응을 잘해주고 있다 보니까, 두 달 전이나 석 달 전 봤던 실적보다 좋아지고 있는 구간이에요. HBM 덕분에 차츰 실적이 개선되고 있고요. 올해 하반기 지나면서 AI 말고도 기준의 PC나 모바일 서버 쪽에서도 매크로(거시경제) 회복으로 수요가 좀 나아진다면 내년엔 하이닉스가 다시 좋은 분위기로 흘러갈 수 있을 겁니다.”

-삼성전자는 반도체 사업 적자를 언제쯤 탈출할 수 있을까요?

“하반기에 가면 메모리 쪽에서 HBM 덕분에 회복할 수 있는 구간이 올 것 같고요. 삼성전자의 파운더리쪽 같은 경우도 하반기 지나면서 가동률이 조금씩 올라갈 걸로 기대합니다. 정리해봤을 때 내년 1분기, 2분기 지나면서는 지금과는 다른 숫자들을 볼 수 있지 않을까 싶습니다.”

주가가 이미 많이 올랐다고?

-말씀하신 대로 인공지능 시대가 오고 관련 투자가 폭발적으로 증가하면서 한국 반도체 기업이 잘하는 고사양 메모리 반도체 시장에 기회가 온다는 건 좋은 스토리인데요. 하지만 이미 주가가 많이 오르기도 했고, 아직은 그런 기대감이 숫자로 찍히진 않은 상황이라 김칫국을 먼저 마시는 아닌가 걱정도 됩니다. 투자를 한다면 어떤 식으로 접근하는 게 좋을까요.

“사실 반도체 업종 주가가 연초 대비 다들 크게 올랐어요. 삼성전자나 SK하이닉스 같은 대형주를 뺀 중소형주 같은 경우엔 대부분 100% 이상 오른 상황이어서요. 개인투자자나 기관투자자 모두 세게 매수하기에는 부담스러운 주가 레벨 아니냐고 말씀하시는 분들이 종종 있습니다. 여기에 더해서 2분기에 생각보다 HBM을 잘 팔았기 때문에, 오히려 2분기의 기저효과를 감안하면 3, 4분기가 너무 부담스러운 것 아니냐고 보는 분들도 있는데요.

저는 두 가지 콘셉트로 말씀드리고 있어요. 일단 먼저 조심해야 하는 건 테마주로 묶어서 올라가는 게 있습니다. 실제로 AI 반도체 사업을 제대로 하고 있진 않은데 그냥 테마로 올라가는 종목들은 나중에 힘들지 않을까 싶습니다. 그래서 저는 증권사 리포트에 담긴 실제로 펀더멘탈을 갖추고 있는 반도체 종목 위주로 보라는 말씀을 드립니다.

두 번째로는 지금 주가 레벨에서도 볼 만한 종목들이 상당히 많습니다. 삼성전자와 SK하이닉스에 더해서 제가 커버하고 있는 대덕전자 같은 회사들은 AI시장 성장에 따라서 이제부터 숫자(실적)가 찍힐 기업들이거든요. 지금은 기대감으로 주가가 많이 올랐지만 앞으로 숫자가 생각보다 더 좋을 가능성이 열려있고요. 이렇게 실적이 분기 단위로 개선이 될 수 있는 회사들에 조금 더 주목하시길 바랍니다.

사실 1~2분기까지 삼성전자와 SK하이닉스가 감산을 했고요. 비메모리 업체들이 감산을 하면 밑에 있는 부품업체 입장에선 물량이 줄어들기 떄문에 실적이 안 좋아요. 그래서 2분기 실적이 7월, 8월쯤 쏟아져 나올 텐데, 그때 안 좋은 숫자를 보시더라도 이후 3분기, 4분기부터 숫자들이 많이 올라올 거기 때문에 분기 단위로 숫자가 계속 올라올 회사들 위주로 집중하셔야 합니다.

우리나라 반도체 산업은 여전히 메모리 쪽 비중이 크고 메모리 업황에 따라 주가도 같이 움직이는 것 같아요. 지금 삼성전자와 SK하이닉스가 감산을 하면서 재고를 줄여나간 것까지는 주가에 어느 정도 반영되고 있는 상황인데요. 그런데 3분기, 4분기는 이제 ‘가격’이란 지표를 꾸준히 따라가보자는 말씀을 드립니다.

3분기 현물거래가격(Spot price) 반등과 4분기 고정거래가격(Contract price) 반등을 감안해서 본다면 업종 주가는 여기서 단기 조정은 있더라도 추세적으로는 내년까지 올라갈 수 있지 않을까 생각합니다.” By.딥다이브

드디어 반도체 가격이 바닥을 치려나요. 예전엔 반도체에 투자할 때 메모리와 비메모리, D램과 낸드플래시 정도만 구분하면 되는 줄 알았는데 이제는 GPU와 HBM, TPU와 NPU까지. 점점 알아야 할 게 많아집니다. 그래도 희망이 보인다니 얼마나 다행인가요. 인터뷰 주요 내용을 요약해드리자면

-AI 관련 투자가 급증하면서 엔비디아의 GPU 수요가 그야말로 폭증하고 있습니다. AI 학습에 필요한 ‘빠른 속도로 일정한 규칙을 갖고 반복적으로 처리하는 것’을 잘하는 칩이 GPU이기 때문입니다.

-덕분에 GPU에 들어가는 고사양 메모리 반도체인 HBM(고대역폭메모리)를 생산하는 삼성전자와 SK하이닉스도 수혜를 보게 됐습니다. 이 시장은 내년, 내후년까지 쭉 성장을 이어갈 겁니다.

-이런 기대감이 반영되면서 반도체 업종 주가가 이미 많이 뛰었습니다. 앞으로는 기대감이 실적으로 증명돼 분기 실적이 점점 좋아질 기업에 투자해야 합니다.

*이 기사는 16일 발행한 딥다이브 뉴스레터의 온라인 기사 버전입니다. ‘읽다 보면 빠져드는 경제뉴스’ 딥다이브를 뉴스레터로 구독하세요.
https://www.donga.com/news/Newsletter