챗GPT 출시로 본격화한 생성 AI 열풍은 불과 2년도 채지나지 않았지만 벌써 급격한 변화를 맞고 있습니다. 초창기 생성 AI 열풍을 주도했던 게 외부 서버나 클라우드에서 처리되는 대형언어모델(LLM)을 활용한 서비스였다면 최근에는 온디바이스 AI로 점차 무게 중심이 옮겨가는 추세입니다.
온디바이스 AI는 기기 자체에서 AI 연산을 처리하는 방식을 말합니다. 온디바이스 AI에는 기존 LLM보다 비교적 규모가 작은 sLLM(small Large Language Model) 혹은 SLM(Small Language Model) 등 소형 모델을 활용합니다. 이 덕분에 외부 서버나 클라우드상의 슈퍼컴퓨터 힘을 빌리지 않아도 기기 자체에서 AI 처리가 가능합니다. 그만큼 성능 면에서는 불리하지만 장점도 명확합니다. 인터넷 연결 여부나 연결 속도에 영향을 받지 않고, 이용자 정보가 밖으로 나갈 일이 없어 개인정보 보호에도 더 뛰어납니다.
PC 제조사와 칩세트 제조사들은 지난해 말부터 AI PC라는 새로운 PC 제품군을 선보이고 있습니다. 대표적으로 인텔은 지난해 말 NPU를 탑재한 모바일 프로세서 제품군인 코어 울트라를 출시하며 본격적인 AI PC 시대를 열었습니다. 기존 PC에서도 CPU, GPU를 활용한 AI 연산이 가능했지만, 전용 칩세트보다 전력 효율은 떨어졌기에 이를 추가함으로써 전체 연산 성능도 높이고, 전력 효율까지 보완한 것입니다. 인텔은 올해 3분기에는 NPU 성능을 대폭 개선한 차세대 AI PC용 프로세서인 코드명 ‘루나레이크’ 또한 출시 예정입니다.
마이크로소프트에서도 지난달 코파일럿+PC라는 새로운 AI PC 제품군을 선보였습니다. 마이크로소프트의 AI 조수인 코파일럿을 기기에 통합해 다양한 AI 기능을 온디바이스로 제공합니다. 실시간 번역, 이미지 생성 등을 온디바이스 AI로 처리합니다.
6월 18일 출시된 갤럭시북4 엣지를 비롯한 첫 코파일럿+PC 제품군들은 기존 윈도우 PC의 대다수를 차지하는 x86 아키텍처가 아닌 ARM 아키텍처 기반의 퀄컴 스냅드래곤 X 엘리트 시리즈를 탑재한 것도 특징입니다. ARM 기반 프로세서는 일반적으로 x86 기반 프로세서보다 전력 효율이 더 뛰어난 것으로 알려져 있습니다. 따라서 ARM 기반 코파일럿+PC에서도 뛰어난 전력 효율을 기대할 수 있겠습니다.
스마트폰 업계에서도 온디바이스 AI 경쟁이 가속화하고 있습니다. 먼저 포문을 연 건 삼성전자입니다. 삼성전자는 갤럭시 S24 출시를 기점으로 ‘실시간 번역’ 등 일부 AI 기능을 온디바이스 AI 기반으로 제공합니다. 삼성은 업데이트를 통해 S23, S22 시리즈 등 구형 모델에서도 갤럭시 AI 기능을 지원합니다. 다만 AI 연산 성능 등 하드웨어의 한계로 구형 모델에서는 일부 기능 사용이 제한됩니다.
애플 또한 지난 6월 10일 개발자 행사 ‘WWDC 2024’에서 처음 공개한 자체 AI 서비스 ‘애플 인텔리전스’를 온디바이스로 구현할 예정입니다. 간단한 요청은 온디바이스에서 작은 AI 모델로 처리하고, 좀 더 복잡한 작업은 클라우드 서버에서 큰 AI 모델로 처리하는 방식입니다.
애플 인텔리전스는 올해 가을 iOS 18가 탑재되는 아이폰 16 시리즈 출시와 함께 베타 버전으로 제공될 전망입니다. 구형 기종은 바로 직전 출시 제품 중에서도 고급형 모델인 아이폰 15 프로부터 애플 인텔리전스를 사용할 수 있습니다. 다만 아직 한국어 지원 일정은 나오지 않았으니 멀쩡한 아이폰을 애플 인텔리전스 때문에 서둘러 바꿀 필요는 없겠습니다.
IT동아 권택경 기자 tk@itdonga.com
-
- 좋아요
- 0개
-
- 슬퍼요
- 0개
-
- 화나요
- 0개
댓글 0