인텔 AI 서밋 서울 2024 기조연설 중인 저스틴 호타드 인텔 DCAI 그룹 총괄 겸 수석 부사장. / 출처=인텔코리아
“인공지능은 이미 전 세계적 변화를 만들어냈고, 강력한 도구를 우리에게 제공했다. 2030년까지 모든 기업은 인공지능 기업으로 전환하리라 예상되며, 1조 달러 규모의 반도체 시장을 창출할 동력이 될 것이다.”
2024년 6월 5일, JW메리어트 호텔 서울에서 개최된 인텔 AI 서밋 서울의 기조연설을 진행한 저스틴 호타드(Justin Hotard) 인텔 데이터센터 인공지능(DCAI) 그룹 총괄 겸 수석 부사장은 인공지능이 만드는 큰 변화를 언급하며 자사가 강조 중인 ‘모든 곳에 인공지능(AI Everywhere)’ 비전을 설명했다. 핵심은 개방형 생태계 구축이다. 시장에서 검증된 다양한 프로세서부터 인공지능 가속기, 소프트웨어 등 업계 전반에 필요한 모든 솔루션을 제공할 수 있기에 가능한 전략이다.
인텔과 협업한 여러 기업이 인텔 AI 서밋 서울 2024에 참여했다. / 출처=IT동아
개회사에 나선 권명숙 인텔코리아 대표는 “인공지능은 우리가 직면하고 있는 많은 도전과제를 해결할 수 있는 열쇠를 쥐고 있다. 산업 전반에 걸친 혁신, 효율성 증대, 새 비즈니스 모델 창출 등 기회도 무궁무진하다”고 말하며 “인텔은 지속 가능성과 윤리적 인공지능 개발이 중요하다고 생각한다. 기술 발전은 성과를 넘어 인간의 삶을 더 윤택하게 만들고 우리 사회가 더 발전적인 방향으로 나아갈 수 있도록 책임을 다해야 한다”고 덧붙였다.
한스 촹(Hans Chuang) 인텔 아시아 태평양 총괄 부사장도 “우리는 인공지능 혁명의 시작 초기 단계에 있으며 인텔은 클라우드에서 엣지, 디바이스까지 엔드-투-엔드 솔루션이 가능한 유일한 기업이다. 이번 행사로 인공지능의 미래를 형성하고 새로운 파트너십, 아이디어를 찾기를 기대한다”고 말했다.
인텔과의 협업과 인공지능 가속기의 독과점을 우려한 하정우 네이버 클라우드 인공지능 혁신 센터장. / 출처=인텔코리아
PC 산업의 ‘변곡점’ 인텔은 준비됐다
반도체 시장은 인공지능에 맞춰 재편되고 있다. 인텔도 그 중심에 있다. 이미 지난해 12월 코어 울트라(Core Ultra) 프로세서를 공개하며 인공지능 PC(AI PC) 시대를 열었다. 차세대 프로세서에는 인공지능 처리 성능을 더 높여 본격적인 시장 요구에 대응한다. 저스틴 호타드 수석 부사장은 인텔 코어 울트라 프로세서를 품은 PC가 800만 대 이상 출하했다고 언급했다. 이 추세를 이어 2024년 말까지 목표치인 4000만 대 공급 달성이 가능할 것으로 내다봤다.
인텔은 코드명 루나 레이크(Lunar Lake)에 대한 기대감을 드러냈다. 차세대 중앙처리장치(CPU)인 루나 레이크는 중앙처리장치와 그래픽 처리장치(GPU), 신경망처리장치(NPU) 등이 하나로 묶인 시스템 온 칩(SoC) 형태로 구성된다. 특히 GPU와 NPU 모두 이전 대비 최대 3배 수준의 인공지능 처리 성능을 제공할 예정이다. 플랫폼 단위로는 100 TOPs(초당 1조 회 정수연산), NPU 자체로는 45 TOPs 이상 수준의 사양을 갖췄다. 이를 통해 온-디바이스 인공지능 기능을 사용할 수 있다는 게 저스틴 호타드 수석 부사장의 설명이다.
인텔 코어 울트라 프로세서에 기반한 AI PC는 일상적이지만 중요한 업무를 자동화, 간소화, 최적화하도록 도와줘 사용자가 더 의미 있는 작업에 집중할 수 있게 도와줄 것이라고 봤다. 특히 기업이 인공지능을 활용하는데 있어 엣지의 역할이 중요하다는 부분을 강조했다.
광범위한 솔루션으로 인공지능 시대를 준비하고 있다고 언급한 저스틴 호타드 수석 부사장. / 출처=IT동아
저스틴 호타드 수석 부사장은 ‘엣지의 세 가지 법칙’을 설명했다. 하나는 경제성의 법칙으로 엣지에서 생성된 모든 데이터를 처리하기 위해 클라우드에서 데이터를 가져오는 과정에서 소요되는 비용이다. 인프라 구축과 유지 등에 쓰이는 비용이 많아지는 경우가 있다는 점도 언급됐다. 두 번째는 물리의 법칙이다. 데이터가 엣지에서 클라우드로 이동할 때 걸리는 시간이다. 세 번째는 토지의 법칙이다. 규제, 개인정보 보호, 보안상의 이유로 데이터를 기업이 보유한 온-프레미스에 보관해야 되는 경우다.
2026년까지 엣지 컴퓨팅의 최소 50% 가량이 인공지능을 활용할 것으로 예상되는 가운데 인텔은 타이버 엣지 플랫폼(Tiber Edge Platform)으로 대응한다. 모듈식 개방형 소프트웨어 플랫폼으로 기업이 엣지 및 인공지능 애플리케이션을 대규모로 개발ㆍ배포ㆍ관리할 수 있게 지원한다. 오픈비노(OpenVINO) 인공지능 추론 런타임을 내장해 효율적인 인공지능 솔루션 개발이 가능하다.
데이터센터 ‘개방형 플랫폼’으로 인공지능 지원한다
인텔은 개인용 PC는 물론이고 데이터센터 시장에서도 영향력을 보여왔다. 특히 제온(Xeon) 프로세서를 중심으로 방대한 데이터를 처리하는 데 집중해 왔다. 여기에 가우디(Gaudi) 인공지능 가속기가 합류하면서 본격적인 인공지능 시대에 대응하고 있다. 인텔은 ‘AI Everywhere’를 실현하기 위해 개방형 모델과 프레임워크를 제안했다.
먼저 인텔은 개발자 경험 제공에 주력할 예정이다. 일관된 개발자 경험을 제공하고 파이토치 표준화 등을 구현하는 식이다. 또한 오픈AI(OpenAI)의 트리톤(Triton)을 지원하고 모델 전송 프레임워크인 vLLM과 TGI를 수용했다. 제온 프로세서와 가우디 인공지능 가속기의 차기 제품이 출시되어도 트레이닝과 애플리케이션 프레임워크 생태계 지원을 유지하는 것도 포함된다.
소프트웨어 외에도 인공지능 도입에 필요한 시스템도 유연하게 지원한다는 방침이다. 오픈 컴퓨트 프로젝트(OCP)를 준수해 기존 코드를 변경하지 않고도 기능을 추가할 수 있게 설계가 이뤄진다. 인공지능 학습, 추론 과정이 확대되면서 발생할 네트워크 병목도 울트라 이더넷 컨소시엄(UE Consortium)을 통해 해결한다. 상호운용성 및 혁신 가속을 위한 오픈 플랫폼 엔터프라이즈 인공지능(OPEA – Open Platform for Enterprise AI)도 공개했다. 높은 신뢰성과 가용성을 제공하고 기존 인프라를 활용해 검색 증강 생성(RAG) 파이프라인을 쉽게 배포할 수 있다. 다양한 아키텍처 지원으로 하드웨어 선택지를 넓힌 것도 포함된다.
인텔은 다양한 환경에 대응할 수 있는 데이터센터 프로세서, 제온(Xeon) 6을 공개했다. 성능이 높은 P-코어와 효율성 높은 E-코어 두 가지 형태로 구성된 제온 6 프로세서는 폭넓은 선택지로 기업 환경에 따라 유연하게 대응하도록 설계됐다. 저스틴 호타드 수석 부사장은 “E-코어 제온은 경쟁사 대비 1.3배 뛰어난 전력 대비 성능으로 적은 공간에 더 많은 컴퓨팅 배치가 가능하며, P-코어 제온은 여러 앱을 빠르게 실행할 수 있다. 특히 가우디 3와 결합하면 완벽한 엔터프라이즈 인공지능 솔루션이 될 것”이라고 말했다.
IT동아 강형석 기자 (redbk@itdonga.com)