KAIST “엔비디아 AI 반도체의 625분의 1 전력 쓰는 제품 개발”

뇌 모방 기술로 초저전력 구현
‘온디바이스 AI’ 솔루션 제공
“갤S24 연결해 GPT-2 구동시켜”

크게보기

KAIST 연구팀이 개발한 인공지능(AI) 반도체가 내부에 포함돼 있는 칩 모습(점선 안). KAIST 제공

KAIST 연구팀이 최근 세계적으로 수요가 급증하고 있는 인공지능(AI) 반도체를 자체 개발했다. AI 반도체 시장을 독점하고 있는 엔비디아 제품보다 전력을 600배 이상 적게 쓰면서 크기는 더 작은 게 특징이다.

과학기술정보통신부는 6일 유회준 KAIST 인공지능반도체대학원 교수팀이 엔비디아의 그래픽 처리장치(GPU) ‘A100’ 모델보다 전력은 625배 적게 쓰고, 크기는 42분의 1에 불과한 AI 반도체를 개발했다고 밝혔다.

연구진은 개발한 AI 반도체를 활용해 오픈AI의 GPT-2 모델을 구동시킨 결과 언어를 생성하는 데 0.4초밖에 걸리지 않았다고 설명했다. 사용된 전력량은 400mW(밀리와트)였다. 유 교수는 “이론 단계에 머물러 있던 고성능 초저전력 AI 반도체를 실제로 구현하고, GPT-2를 구동시켰다는 점, ‘온디바이스 AI’의 솔루션을 제공했다는 점에서 큰 의의가 있다”고 말했다.

온디바이스 AI는 스마트폰, 전기차 등 기기에서 직접 AI를 구동할 수 있는 기술이다. 데이터 서버를 거치지 않고 기기에서 바로 데이터를 처리하기 때문에 속도가 빠르고, 보안 측면에서도 안전해 많은 기업이 관심을 보이는 분야다.

다만 그간 개발된 AI 반도체는 전력 소모가 너무 커 온디바이스 AI로 이용하기에 제약이 많았다. 유 교수는 “현재 상용화된 퀄컴의 최신 AI 반도체도 GPT-2를 구동하기 어렵다”며 “이번에 개발한 AI 반도체를 갤럭시 S24에 연결해 GPT-2를 구동시킨 결과 무리없이 작동했다”고 했다.

이렇게 저전력을 소모하는 AI 반도체를 개발할 수 있었던 것은 뇌를 모방한 ‘뉴로모픽’ 컴퓨팅 기술을 적용했기 때문이다. 뇌는 ‘뉴런’이라고 불리는 신경세포 간 전기적 신호를 통해 정보를 전달한다. 특정 입력값이 주어졌을 때만 신호를 발생하고, 어떤 문제를 해결할 때 뇌 전체가 아닌 일부 부위만 사용하기 때문에 에너지 소모가 적다. 현재 연구팀은 향후 본격적인 온디바이스 AI 반도체를 개발하기 위해 삼성과 긴밀하게 협의 중이라고 밝혔다.