바다 속에 데이터센터를?… 발열과 사투 벌이는 AI 기업

[토요기획] ‘불덩이’ 데이터센터 어떻게 식힐 것인가
데이터센터 전력 사용량 45%… 과열된 서버 식히는 데 소모
발열 문제, IT 기업 발등의 불… 엔비디아, 냉각 파이프 설치
SK엔무브 등 액침 냉각 개발… MS는 해저 데이터 센터 추진
폐열을 난방-결빙 방지에 활용… 발상 전환한 아이디어도 주목

《‘불덩이 데이터센터를 식혀라.’

8월 엔비디아 회계연도 2분기(4∼6월) 실적 발표에서 차세대 인공지능(AI) 가속기 ‘블랙웰’만큼 주목받은 내용이 있었다. 바로 ‘액체 냉각’ 방식 도입 발표였다. 엔비디아는 이날 “블랙웰을 액체 냉각 기반으로 설계해 데이터센터 소모 전력을 최대 28%까지 줄이겠다”고 선언했다.》

크게보기

미국 오리건주 더 댈러스에 있는 구글 데이터센터에서 직원이 과열된 서버를 진단하고 있다. 사진 출처 구글 홈페이지

● AI 시대 맞은 기업들, ‘발열과의 전쟁’

손 안의 스마트폰부터 업무용 PC까지, 장시간 고성능 프로그램을 사용하면 기기가 뜨끈뜨끈해지는 경험은 누구에게나 있다. 고성능 중앙처리장치(CPU)와 그래픽처리장치(GPU)가 빽빽이 탑재되는 정보기술(IT) 기업들의 데이터센터가 발열 문제를 겪는 것은 당연하다. 반도체 업계에 따르면 데이터센터의 사용 전력 중 약 45%가 이 서버 발열을 낮추는 공조 장치, 냉각 팬 등에 들어갈 정도다.

크게보기

AI 시대를 맞아 데이터센터 서버 수요가 급증하면서 이를 안정적으로 유지하기 위해 필수적인 데이터센터 냉각 시장도 성장하고 있다. 포천 비즈니스 인사이트에 따르면 글로벌 데이터센터 냉각 시장 규모는 지난해 148억5000만 달러(약 20조5465억 원)에서 2030년 303억1000만 달러(약 41조9369억 원)로 커질 것으로 전망된다.

최근까지 엔비디아를 비롯해 대부분 IT 기업들이 채택해 오고 있는 데이터센터 냉각 방식은 공랭식이다. 쉽게 말해 에어컨과 같은 공조 장치로 서버 사이 사이에 차가운 공기를 순환시켜 열을 식히는 방식이다. 데이터센터 시장이 확대되면서 기존 냉난방 산업 대표 기업들도 뛰어든 상태다. 미국 캐리어는 지난달 “AI 기술 발전과 함께 급성장하는 데이터센터 쿨링(냉각) 사업을 본격화한다”고 선언했다. 냉난방 공조 사업을 확대하고 있는 LG전자도 고효율 칠러(냉방기)를 앞세워 데이터센터 시장 공략에 나섰다.

다만 공랭식 기술은 초기 설치 비용은 상대적으로 낮지만 소음이 발생하고 전력 소모가 크다는 단점이 있다. 공조기 설치를 위해 부지도 많이 필요하다. 이에 이번 엔비디아 발표와 같이 액체 냉각 방식이 새로운 기술로 주목을 받고 있다.

크게보기

액체 냉각 방식은 주로 냉각용 액체가 흐르는 파이프를 서버에 함께 설치하는 것을 말한다. 공랭식보다 공간을 덜 차지하고 냉각 효율이 높지만 초기 설치 비용이 매우 비싸다. 글로벌 투자은행(IB) 모건스탠리에 따르면 엔비디아 블랙웰 서버에 적용될 액체 냉각 시스템 비용만 서버 한 대당 1억 원가량에 이른다. 공랭식이 적용된 기존 제품 냉각 비용 대비 최대 20배 비싼 수준이다.

그럼에도 불구하고 AI 시대를 맞아 급격히 상승 중인 서버 수요를 고려할 때 장기적으로는 액체 냉각 방식이 비용 효율을 달성할 것이란 전망이 커지고 있다. 젠슨 황 엔비디아 최고경영자(CEO)는 2분기 실적 발표 콘퍼런스 콜에서 “액체 냉각 방식 데이터센터에서는 어떤 규모의 데이터센터를 선택하든 과거에 비해 3배에서 5배까지 AI 처리량을 늘릴 수 있다”고 언급했다. 현재 발열 및 전력 이슈로 제한받고 있는 서버 능력을 더욱 확대할 수 있게 된다는 의미다.

● 액침 냉각, 해저 데이터 센터까지 등장

크게보기

마이크로소프트가 2018년부터 올해 6월까지 진행해온 해저 데이터센터 프로젝트 ‘나틱’에 투입된 해저 서버가 스코틀랜드 오크니섬에서 인양된 모습. 사진 출처 마이크로소프트 홈페이지

단순한 액체 냉각 방식에서 한 걸음 더 나아간 액침 냉각 기술도 주목받고 있다. 서버 자체를 방수 처리한 뒤 아예 냉각용 액체에 담그는 방식이다. 이 경우 기존 액체 냉각에 필요한 파이프도 배제할 수 있어 효율적이지만 기술 개발 난도는 더욱 높아진다.

관련 업계에 따르면 엔비디아는 이미 사내에 액침 냉각 전담팀을 꾸려 기술 개발에 착수했다. 8월부터 해당 팀에 근무할 화학·재료과학 전공 석박사 엔지니어들을 모집하며 눈길을 끌었다. 인텔도 지난해 5월 미국의 액침 냉각 스타트업인 GRC와 협력에 나서는 한편 액침 냉각 기술 개발에 총 7억 달러(약 9684억 원)를 투자한다고 발표한 바 있다.

크게보기

SK이노베이션 자회사 SK엔무브는 미국 GRC사와 손잡고 데이터센터 액침 냉각 시스템 기술 개발에 협력한다고 지난해 밝혔다. SK엔무브 제공

국내 기업들도 액침 냉각 기술 개발에 뛰어들었다. SK이노베이션 자회사 SK엔무브가 앞서 2022년 국내 최초 냉각 플루이드를 개발했고 GRC에 2500만 달러(약 346억 원) 규모 지분 투자도 단행했다. 지난해 11월 SK텔레콤 AI 데이터센터에서 액침 냉각유 설비를 실증하기도 했다. 냉난방 공조로 데이터센터 냉각 시장에 진출한 LG전자도 액침 냉각에 주목하고 있다. 이재성 LG전자 에어솔루션사업부장(부사장)은 9월 인베스터포럼에서 “최고기술책임자(CTO)와 LG전자 생산기술원, LG그룹 계열사가 자사 기술을 통해 액침 냉각 등 솔루션 상용화를 발 빠르게 준비 중”이라며 “글로벌 전문기업과 파트너십을 맺기 위한 작업도 적극적으로 진행하고 있다”고 말했다.

여기서 한 발 더 나아가 ‘교체하지 않아도 되는 천연 냉각수’인 바다를 이용하려는 시도도 있다. 해저에 데이터센터를 설치해 바닷물의 자연적인 냉각 효과를 활용하는 것으로, 지상 데이터센터의 전력 소모라는 궁극적 단점을 극복하기 위한 도전이다.

크게보기

마이크로소프트(MS)는 2018년부터 올해 6월까지 스코틀랜드 앞바다에서 해저 데이터센터 운영 프로젝트 ‘나틱’을 수행해 왔다. 855대의 서버를 금속 컨테이너에 밀봉해 바닷속에 가라앉혀 여러 상황 속에서 성능 여부를 연구하는 프로젝트다. 최종 상용화로 이어지진 않았지만 지상 데이터센터와의 고장률을 비교해 해저 센터가 더 효율적임을 밝혀내는 등 성과를 냈다.

중국 데이터센터 기업인 하이랜더도 해저 데이터센터 실험에 나섰다. 내년까지 중국 하이난 섬 인근 바다 아래에 축구장 13개 크기에 맞먹는 서버 모듈 100개를 설치할 계획이다. 회사는 “바닷물이 냉각수 역할을 하면서 중국 시민 16만 명이 한 해 동안 쓸 수 있는 전기 사용량인 약 1억2200만 kWh(킬로와트시)를 절약할 수 있을 것”이라고 밝혔다.

● “데이터센터 폐열로 난방을” 열 재활용 산업 주목

발상의 전환으로 아예 데이터센터에서 발생하는 열 자체를 활용하는 건 어떨까. 데이터센터 냉각 시장의 틈새에서 이 같은 아이디어를 실제로 만들어낸 사례들도 나오고 있다. 바로 데이터센터 ‘열 재활용’ 산업이다.

대표적인 사례는 구글의 핀란드 데이터센터 실험이다. 구글은 5월 10억 유로(약 1조4967억 원)를 투자해 핀란드 데이터센터를 확장한다는 계획을 발표하며 “핀란드 데이터 센터에서 나오는 열은 지역 가정, 학교 및 공공 서비스 건물을 포함한 인근 도시 하미나의 지역 난방 네트워크로 공급될 것”이라며 “2030년까지 모든 운영 및 가치 사슬에서 순 배출량 제로를 달성하는 것을 목표로 한다”고 밝혔다.

이는 핀란드 현지에서 발전해 온 열 교환 기술과 난방 에너지 전달 기술을 바탕으로 한다. 서버에서 데워진 냉각수를 지역 난방 시스템으로 보내고, 이를 다시 회수해 데이터센터로 순환시키는 방식이다. 구글뿐만 아니라 마이크로소프트도 헬싱키 지역에 데이터센터를 짓고 폐열을 지역 난방용으로 공급하는 방안을 추진하고 있다.

국내에선 네이버와 카카오가 이 실험에 도전했다. 네이버는 강원 춘천에 있는 데이터센터 ‘각’에서 나오는 폐열을 지역 난방 외에도 온실, 겨울철 도로 결빙 방지 등에 활용하고 있다. 카카오도 경기 안산 데이터센터 등의 폐열을 난방에 재사용하고 있다. 한국지역난방공사도 9월 이지스자산운용과 폐열 활용 업무협약을 맺고 도심 데이터센터 폐열 재활용에 나섰다.

최보영 교보증권 IT·반도체 연구위원은 보고서에서 “데이터센터의 전력량의 절반 수준이 열을 가라앉히는 데 사용된다”며 “향후 반도체는 빠른 연산 능력뿐만 아니라 전력량을 감소시킬 수 있는 기술 개발이 중요해질 것이며, 특히 냉각 솔루션의 기술 중요성이 커지고 있다”고 분석했다.