KT, 삼성전자와 ‘AI 생태계’ 협력

반도체-SW 등 AI 전반 아울러
맞춤형 제품-서비스 구축 손잡아
AI 답변 끊기는 문제 등 해결나서

KT가 삼성전자와 생성형 인공지능(AI) 서비스를 효율적으로 제공하기 위한 기술 협력을 추진한다. 생성형 AI 전용 반도체부터 소프트웨어, 클라우드 등 AI 산업 전반을 아우르는 맞춤형 제품과 서비스 구축에 힘을 합치겠다는 계획이다.

KT는 29일 삼성전자와 차세대 메모리 기술 협력 업무협약(MOU)을 체결했다고 밝혔다. 이번 협약엔 KT 자회사인 KT클라우드도 참여했다.

KT와 KT클라우드는 삼성전자와 다양한 반도체 환경에서 전력 소모를 최소화하면서 초거대 AI 기능을 극대화할 수 있는 기술 개발에 나선다. 삼성전자 반도체를 적용한 환경에서 초거대 AI ‘믿음’을 구현하는 실증 연구를 진행한다. 이용자가 AI 서비스로 검색어나 질문을 입력하면 답변이 뚝뚝 끊기는 것처럼 나오는 이른바 ‘메모리 병목현상’을 해결하기 위한 것이다.

구체적으로는 KT와 KT클라우드, 삼성전자는 저장 기능을 수행하는 메모리 반도체에 연산 기능을 더한 지능형(PIM) 반도체를 통해 AI 가동 역량을 확인하기로 했다. 프로세싱니어메모리(PNM) 분야에서도 기술 협력을 진행한다. PNM은 중앙처리장치(CPU)와 메모리 반도체를 가까이 배치해 데이터 전송 시간을 줄이고 성능을 높이는 기술을 의미한다.

오픈AI의 ‘챗GPT’ 등 대규모 언어모델(LLM)을 기반으로 한 생성형 AI는 다른 디지털 서비스보다 더 많은 연산 처리 과정이 필요하다. 기존 반도체 제품이나 소프트웨어에서 이를 구현하면 처리 속도가 느리고 전력 소비량이 늘어난다는 단점이 있다.

미국 세미애널리시스는 올해 4월 월 사용자 수가 약 1억 명에 이르는 챗GPT의 하루 평균 운영비가 70만 달러(약 9억2000만 원)에 이를 것이라는 추정치를 내놓기도 했다.

문제는 현재 AI 서비스 구현에 활용되는 그래픽처리장치(GPU) 시장 점유율의 90%를 미국 엔비디아가 차지하고 있다는 점이다. 정부와 국내 반도체, 정보기술(IT) 기업은 엔비디아의 GPU를 넘어서는 AI 반도체를 개발하기 위해 집중 투자에 나서고 있다. 시장조사업체 가트너는 AI 반도체 시장 규모가 2021년 347억 달러(약 45조7200억 원)에서 2026년 861억 달러로 연평균 16% 성장할 것으로 전망했다.

과학기술정보통신부는 26일 2025년까지 약 1000억 원을 투자해 국산 AI 반도체 성능을 실증하기 위한 데이터센터 구축 내용이 담긴 1단계 사업 계획을 발표했다. 2030년까지 3단계 사업을 통해 전력 소모를 최소 수준으로 낮춘 AI 반도체를 개발하는 것이 목표다.