[스케일업] 클리카 [3] 피터 노빅과의 대담으로 살펴본 ‘AI 스타트업’의 방향성

[IT동아 x SBA] IT동아는 서울경제진흥원(SBA)과 함께 ‘2024년 스케일업 프로그램’을 진행합니다. 서울창업허브 오픈이노베이션 참여기업 중 유망한 스타트업을 선정, 인터뷰로 발전사와 성과를 소개합니다. 나아가 이들이 다음 단계로 도약하도록 지원하는 프로그램입니다.

크게보기

좌측부터 맷 벨로소 구글 AI·ML 개발 부사장, 피터 노빅 구글 엔지니어링 디렉터, 김나율 클리카 대표, 수밋 싱 아프토리 CEO, 맷 라이드누어 구글 미국 스타트업 액셀러레이터 및 생태계 책임자 / 출처=룰루 워터스 링크드인

구글의 핵심 웹 검색 엔진 개발을 이끈 피터 노빅(Peter Norvig)은 “더 많은 데이터는 똑똑한 알고리즘보다 낫지만, 더 나은 데이터는 더 많은 데이터보다 낫다”라고 말했다. 이러한 중요성을 인식한 AI 개발자들은 오늘날 데이터 품질 확보와 처리에 많은 시간을 투자하고 있으며, 이를 효율적으로 처리하는 기술이 발전하고 있다. 효율성이 점점 더 중요해지고 있는 가운데, 데이터 품질을 넘어 효율적인 매개변수 수를 가진 모델의 중요성도 점차 부각되고 있다.

더불어 노빅은 기술 발전과 함께 인간 중심의 AI 필요성을 강조하며, AI가 단순히 알고리즘 최적화에 그치지 않고 공정하고 포용적이며 사용자에게 유익해야 한다고 한다. 이를 위해 다양한 팀이 협력하여 사용 사례를 분석하고, 데이터 격차 및 취약성을 식별하며, AI 시스템이 기술적, 비즈니스적, 사회적 목표와 일치하도록 보장하는 과정이 필요하다. 이러한 접근 방식은 AI가 더욱 효율적인 사회적으로 유익하고 보다 지속가능한 방향으로 발전할 수 있도록 돕는다.

GPT로 시작된 AI 경쟁, 이제는 효율화·대중화에 초점

시작점은 오픈AI의 GPT-3다. 2022년 11월 등장한 오픈AI의 GPT-3는 1750억 개의 매개변수를 갖췄고, GPT-4는 약 1조 7600억 개의 매개변수가 탑재된 것으로 추정된다. 하지만 매개변수가 1760B 수준으로 너무 많다 보니 처리 속도가 느리고, 전력 소모대 처리 효율 등이 떨어지는 문제가 있어왔다. 그래서 최근에는 더 적은 파라미터 수로 높은 성능을 발휘하는 고효율 모델 개발을 위한 연구와 노력 또한 활발히 진행 중이다.

대표적으로 라마 3(Llama 3)는 1B부터 405B까지 다양한 사이즈의 모델을 제공하고, 구글도 1조 개 이상의 매개변수를 갖춘 제미나이 1.0 울트라를 만들면서도 소규모 모델인 제미나이 1.5 플래시 (Gemini 1.5 Flash), 매개변수가 7B 및 2B로 매우 작은 구글 젬마 (Gemma) 등의 모델을 각각 개발한다. 오픈AI 역시 GPT-4o 미니, 엔스로픽도 소형 모델인 클로드 3 (Claude 3) 하이쿠 (Haiku) 등을 내놓아 시장에서 경쟁하고 있다.

정확성과 목적 접합성 등을 끌어올리기 위해 검색 증강 생성(RAG), 인간 피드백을 통한 광범위한 강화 학습(RLHF) 등이 동원되고, 하드웨어 및 소프트웨어 업계도 노트북과 스마트폰에서 온디바이스 AI를 지원하도록 해 AI의 대중화 시대를 열고 있다. 연구 단계를 넘어서 모두를 위한 손 안의 AI 시대가 이제 막 열리고 있다.

AI의 발전 방향, 업계 석학과 스타트업 창립자가 보는 시각은?

크게보기

지난 9월 26일(현지 시각) 진행된 구글 파운더 프라이데이 행사 / 출처=구글 포 스타트업

문제는 AI 업계의 속도가 너무 빨라 방향을 잡기 어렵다는 점이다. 이에 업계 전문가들의 시선을 공유하는 행사가 지난 9월, 미국 캘리포니아 주 마운틴뷰에 위치한 구글플렉스에서 열렸다. ‘구글 파운더 프라이데이’ 행사에는 맷 라이드누어 구글 미국 스타트업 액셀러레이터 및 생태계 책임자, 맷 벨로소 구글 AI·ML 개발 부사장, 피터 노빅 구글 엔지니어링 디렉터가 주최측 인사로 참여했고, 스타트업으로는 김나율 클리카 최고경영자와 벤 아사프 클리카 최고기술책임자(CTO), 수밋 싱 아프토리(Aptori) 최고경영자가 참여했다.

이 행사가 주목할만한 이유는 피터 노빅이 참여해 AI에 대한 생각을 밝혔기 때문이다. 피터 노빅은 미국의 컴퓨터 과학자며, 현재 135개국 1500개 이상 대학에서 AI 분야의 핵심 서적으로 꼽히는 ‘인공지능 : 현대적 접근 방식’의 저자로 AI 업계의 세계 최고 권위자다. 그는 나사(NASA) 에임스 연구센터의 계산과학부서에서 자율성과 로봇 공학, 자동화 소프트웨어 엔지니어링, 신경 공학 등과 관련해 200명의 과학자들을 이끌었고, 2002년부터 3년 간 구글의 핵심 웹 검색 엔진 개발을 이끈 주역이다. 지금도 그는 구글 AI의 연구 디렉터를 맡고 있다.

크게보기

벤 아사프 클리카 CTO가 일반 AI 모델과 클리카 압축 모델을 비교 소개 중이다 / 출처=클리카

발표는 김나율 클리카 대표와 벤 아사프 CTO의 기업 소개가 선행됐다. 벤 아사프 CTO는 “클리카는 하나의 도구로 다양한 하드웨어에 대한 AI 모델을 압축, 최적화 및 가속하는 통합 소프트웨어 개발 도구를 제공한다. 모델은 성능을 유지하며 최대 75%까지 크기가 줄고, 평균 여덟 배까지 모델 속도를 가속한다”라고 설명했다.

김나율 대표는 “AI 압축을 활용해 모델의 크기를 줄이고, 다양한 하드웨어 플랫폼에서의 모델 속도를 가속할 수 있다. 구글 클라우드 플랫폼 (Google Cloud Platform, GCP)을 통해 클리카의 경량 AI모델을 먼저 선보일 예정”이라 소개했다.

크게보기

발표 주제는 ‘초기 단계 AI: 스마트하게 구축하고, 함정을 피하고, 성공 사례를 선보이다’로 진행됐다 / 출처=클리카

짧은 기업 소개 이후 본격적으로 패널 토크가 진행됐다. 김나율 대표는 “우리가 선보이는 AI 모델 압축은 업계에서 상당한 진척을 보인다. 이를 활용해 내년에는 더 많은 AI PC와 스마트폰에 온디바이스 AI가 구현될 것이고, 이는 우리의 일상을 실질적으로 강화할 것이다”라면서, “건설 현장에 배치돼 안전을 점검하고, 노인들을 돕고 모니터링하는 등이 AI 자동화될 수 있다. 이 모든 것이 우리의 일상을 편리하게 만들어줄 것”이라 말했다.

“점점 더 발전하는 AI 모델, 사용자 경험 (UX)도 함께 향상”

수밋 싱 아프토리 대표는 금년 초에 출시된 제미나이 플래쉬는 작년과는 차원이 다를 정도로 향상돼, 개발한 코드에 대한 피드백을 빠르게 받을 수 있었다. 클리카의 경우에도 AI 모델을 경량화하여 고효율적으로 만들어 모델 크기 뿐만 아니라 지연 속도(latency)를 극적으로 줄임으로써 사용자 경험을 개선하는 데 기여하고 있다.

“AI 사용 편의성 향상, AI 대중화로 이어져”

피터 노빅은 “AI 사용 편의성의 향상이 AI 대중화, 민주화로 이어지는 것은 감격할 일이다. 나는 프로그래밍을 배우는데 수년이 걸렸고, 누구나 할 수 있는 일이 아니다. 하지만 지금은 누구나 수 년 간 학습하지 않아도 더 강력한 일을 할 수 있고, 이것은 신나는 일”이라고 덧붙였다. 맷 라이드누어도 “우리가 인간으로서의 창의력을 잃지 않으면 AI는 일자리를 빼앗기보다 더 많은 기회를 제공할 것”라고 거들었다.

피터 노빅에게 AI 스타트업, 그리고 새로운 가치를 창출하는 것에 대한 질문이 이어졌다. 피터 노빅은 “과거에 우리가 손으로 코드를 작성해야 했을 때, 시제품을 만들고 솔루션으로 구현하는 것은 먼 길이었다. 하지만 지금은 데이터를 기반으로 시제품이 만들어지고, 그 과정 자체 덕분에 다음 단계로 나아가는 데 용이해졌다”라면서, “이를 배포하고 더 많은 데이터를 얻고, 확장하고, 처음부터 다시 시작할 필요 없이 구축하고 확장할 수 있다. 덕분에 스타트업들이 대기업들과 경쟁할 수 있게 됐다”라고 말했다.

크게보기

맷 라이드누어 구글 미국 스타트업 액셀러레이터 및 생태계 책임자가 구글 스타트업 지원 관련 발표를 진행 중이다 / 출처=맷 라이드누어 링크드인

클리카의 AI 솔루션 같은 기술이 어떻게 AI 생태계 확장에 기여할까? 맷 라이드누어가 김나율 대표에게 AI가 처음부터 핵심 비전인가 질문했다. 김나율 대표는 “클리카 역시 컴퓨터 시각인식 모델을 자동화, 간소화하는 것으로 시작했다. 하지만 사람들에게 더 보편적인 도구가 필요하다고 생각해 더욱 다양한 모델을 지원하며 확장 해 나가고 있다 ”라고 말했다.

수밋 싱 대표는 “5년 전에 AI 시장에 뛰어들며, 앞으로 10년 이상 이 시장이 확장될 것이라 생각했다. 과거 얘기를 하자면, 나 역시 개발자로 경력을 시작했는데 테스트가 항상 발목을 잡았다. 그런데 회사가 커지면서 문제들이 다각적으로 생길 수 있고, 또 반복된다는 점을 깨닫고 이것을 AI로 해결할 수 있다 생각했다. 특히나 모든 소프트웨어와 데이터는 버그가 있을 수밖에 없는데, 이를 AI로 해결하고 수정하도록 만든 게 우리의 서비스”라고 말했다.

“AI는 박사 학위가 아닌, 사용자의 필요성에 맞추는 기술”

두 스타트업의 사례를 들은 피터 노빅은 “업계 사람들과 얘기를 나눌 때, 어디서 AI 박사 학위를 받을 수 있냐는 질문을 듣는다. 하지만 나는 학위가 필요하다고 보지 않는다. AI로 박사학위를 받겠다는 말은 레스토랑을 열기 위해 가스레인지 디자인 박사 학위가 필요하다는 말과 같다”라고 말했다.

이어서 “어떤 스토브를 사야 할지 말하고, 어떻게 작동하는지를 알려주는 건 의미 없다. 중요한 것은 소비자가 무엇을 먹고 싶어 하는지 알고, 그것을 만들 수 있는 요리사다. 이를 위해서는 박사 학위가 필요하지 않다. 구글의 AI 서비스도 고객이 원하는 걸 이해하고, 그 흐름에 맞춰 데이터를 수집하고 정리하고, 배포 구축하는 사람을 필요로 한다. 이 과정이 오히려 어렵다”라는 의견을 밝혔다.

크게보기

피터 노빅 디렉터가 세션에서 설명 중이다 / 출처=드미트리 리처드 스타슨 링크드인

맷 벨로소도 “우리가 문제를 해결하는 방식도 근본적으로 달라져야 한다. 예를 들어 자전거 타는 법을 배우는 건 어렵지만, 자전거를 탈 줄 알게 되면 타는 과정은 잊어도 된다. 새로 들어온 개발자가 더 나은 아이디어를 제시하는 경우도 배우는 과정이 달랐기 때문이다”라면서, “AI에 대한 불신은 접어두고 모든 게 가능하다고 생각하라, 몇 년전까지만 해도 불가능한 일들이 지금은 가능하다. 가장 큰 문제부터 해결하고, 해결되지 않은 과제들을 해결해 나가자”라고 덧붙였다.

구글 등의 빅테크 기업에서는 파운데이션 모델 및 전반적인 인프라 솔루션 제공을, 클리카 같은 딥테크 스타트업들은 높은 수준의 전문 지식과 선행 연구를 토대로 AI솔루션 개발에 필요한 도구들을 내놓고 있다. 이제는 스타트업이 고객의 수요를 집착적으로 파헤치고, AI를 어떻게 산업군에 적용할지가 중요해질 것이라는 부분에 대해서는 모두가 견해를 같이했다.

피터 노빅과 함께한 ‘구글 파운더 프라이데이’의 교훈은 앞으로의 AI 시장이 형성되는 과정이 천편일률적이지 않을 것임을 시사한다. 클리카는 AI 모델 압축을 통해 더 많은 사람들이 고효율의 AI를 활용할 수 있도록 돕고, 아프토리는 버그 자동화 소프트웨어로 초심자도 쉽게 개발에 전념할 수 있도록 돕는다. 이런 혁신적인 서비스가 나올 수 있었던 배경은 AI를 만들고 고객을 끼워 맞춘 게 아니라, 사용자가 필요로 하는 것을 맞춰 AI를 개발한 덕분이다. 앞으로 등장할 AI 스타트업은 상업적 가능성보다, 고객 필요성에 초점을 맞추는 게 더 중요해질 것이다.

IT동아 남시현 기자 (sh@itdonga.com)