[HBR INSIGHT]엔비디아가 AI를 업무에 활용하는 법

생성형 인공지능(AI)을 업무에 활용하기 시작한 기업이 늘고 있지만 궁극적으로 AI가 업무를 어떻게 바꿔놓을지에 대한 청사진을 가진 기업은 찾기 힘들다. 생성형 AI는 복잡한 문서 요약, 코드 작성, 이메일 초안 작성, 마케팅 문구 작성 등 많은 업무를 자동화한다. 회사가 별도의 모델을 개발할 필요도 없다.

하지만 기업이 AI를 생산성 도구로 사용하는 것만으로는 차별화된 경쟁우위를 확보할 수 없다. AI를 활용해 업무 자체를 바꾼다면 기존 기업과 차별화된 비즈니스 모델을 갖게 될 것이다. AI 전환, 어떻게 시작하면 좋을까? 글로벌 기업의 사례를 바탕으로 살펴보자.

AI 소프트웨어 분야의 선도 기업인 엔비디아는 사내에 65개 이상의 챗봇을 운영하고 있다. 그런데 시간이 지나면서 팀별로 중복되는 노력이 많다는 사실을 발견했다. 예컨대 기업 커뮤니케이션팀에서 사용하는 챗봇과 정보기술(IT)팀에서 사용하는 챗봇이 전혀 달라 보이지만 자세히 살펴보면 운영상 발생하는 문제들이 비슷했다. 이런 문제를 효과적으로 해결하기 위해 엔비디아는 생성형 AI 도구의 잠재력을 탐구하는 데 열정적인 사용자들로 구성된 커뮤니티를 육성했다. 커뮤니티는 매주 회의를 열어 공통 템플릿과 유용한 프롬프트를 제공하는 등 지식을 서로 공유하고 최고 경영진에게도 지속적으로 정보를 제공했다. 이를 통해 내부 파일럿으로 만들어진 AI 도구들이 회사 전체의 표준 플랫폼으로 통합되기 시작했다.

서로 다른 것처럼 보이는 대화형 AI 애플리케이션은 사실 공통의 데이터베이스를 기반으로 지식을 배치하고 질문에 인간처럼 자연스러운 답변을 생성하는 유사한 서비스였다. 엔비디아의 여러 팀에서 저마다 챗봇을 구축하고 서로 다른 질문을 던지는 동안 생성형 AI는 기업의 데이터 저장소, 팀 내부 소통 채널 등 동일한 소스에 접근해 인사이트를 얻었다. 엔비디아는 새로운 챗봇이 수집하는 모든 데이터 소스를 조사해 데이터베이스로 통합하고 더 확장된 플랫폼을 구축해 향후 구축될 생성형 AI 서비스들이 활용할 수 있게 했다. 이런 플랫폼 기반 서비스를 통해 엔비디아의 전 임직원은 대규모로 더 나은 AI 기능을 활용할 수 있게 됐다.

코카콜라도 엔비디아처럼 셀 수 없이 많은 AI 프로젝트를 추진하는 기업이다. 소비자 브랜드 최초로 글로벌 마케팅 캠페인에 생성형 AI를 도입했다. AI 프로젝트가 무수하게 늘어나면서 어떤 프로젝트의 영향력이 가장 클지 정확히 파악하는 작업이 중요해졌다. 이를 위해 코카콜라는 2023년 초 사장 겸 최고재무책임자(CFO)인 존 머피가 직접 이끌고 전 부서를 아우르는 디지털위원회를 만들었다. 이와 동시에 디지털위원회 연락망 커뮤니티를 만들고 모든 운영 부서에 자체 디지털위원회 연락 담당자를 선발해 디지털위원회와 연결되게 했다.

디지털위원회의 첫 임무는 출범 당시 전사적으로 진행 중인 수많은 AI 및 디지털 프로젝트의 목록을 작성하는 것이었다. 그리고 고객 경험을 혁신할 가능성이 가장 큰 프로젝트를 평가하고 우선순위를 정하기 위한 공통의 프레임워크를 만들었다. 엔비디아처럼 코카콜라의 디지털위원회 또한 수많은 AI 기획안이 비슷한 목표를 갖고 있으며 공통의 인프라가 필요하다는 사실을 발견했다. 위원회는 팀이 다양한 데이터세트에서 AI 기반 결과물을 생성할 수 있도록 돕는 통합 플랫폼 ‘지식 허브(Knowledge Hub)’를 만들었다. 이를 바탕으로 AI 활용 사례들의 우선순위를 정하고 AI 도구를 회사 직원의 모든 업무를 보강할 수 있는 AI 비서에 통합하는 것이 최종 목표다.

엔비디아와 코카콜라의 사례는 AI를 도구로 활용하는 것을 넘어서 전사적으로 확장하기 위해 다양한 시도를 효율적으로 통합하는 디지털 플랫폼을 구축하는 것이 중요하다는 교훈을 준다. 이제 생성형 AI는 단순한 생산성 도구가 아닌 새로운 디지털 인력으로 자리 잡을 것이다. 앞으로 AI가 대중화할수록 회사만의 차별적인 데이터와 운영 알고리즘을 확보하는 것이 더욱 중요해질 것이다.

※이 글은 하버드비즈니스리뷰(HBR) 디지털 아티클 ‘생성형 AI 확장을 위한 3요소’ 원고를 요약한 것입니다.