고성능AI 개발비, 3년새 6600만원→105억 ‘껑충’

[AI 무한경쟁 2.0]
엔비디아 AI칩 개당 5000만원
美정부 지난해 2000억 연구 지원

미국이 인공지능(AI) 개발을 주도할 수밖에 없는 근간에는 천문학적 투자가 있다. 최신 모델 개발에는 상상을 뛰어넘는 ‘돈’이 들기 때문이다.

스탠퍼드대가 매년 발간하는 ‘AI 인덱스 2023’ 보고서에 따르면 2019년 공개된 오픈AI의 GPT-2 개발 비용은 약 5만 달러(약 6600만 원) 수준이었다. GPT-2는 최초의 대형언어모델(LLM)로 인정받지만 사람들을 놀라게 할 정도는 아니었고, 인간 뇌의 뉴런과 뉴런을 연결하는 시냅스와 비슷한 역할을 하는 매개변수(파라미터) 수도 15억 개 정도에 불과했다.

3년 만인 2022년 파라미터 수는 극적으로 증가했다. 2022년 공개된 주요 AI 모델로 꼽히는 구글의 PaLM은 약 5400억 파라미터로, 개발비가 800만 달러(약 105억 원)에 달하는 것으로 스탠퍼드대는 추정했다. 3년 동안 개발비가 160배 뛴 것이다.

오픈AI는 최신 모델인 GPT-4의 파라미터 수는 공개하지 않고 있지만 상상을 뛰어넘을 것이라는 추측이 나온다. 최신 모델 개발을 위해서는 고성능 컴퓨팅 능력을 위한 최신 AI 칩이 필요한데, 엔비디아 고성능 AI 칩이 개당 5000만 원을 넘는다.

미국은 국립과학재단을 통해 대학과 빅테크 간 AI 개발 격차를 좁히기 위해 지원을 늘리고 있다. 지난해 카네기멜런대(AI 의사 결정), 일리노이대(AI 증강현실과 교육) 등 AI 연구 분야별로 총 1억4000만 달러(약 2000억 원)의 지원을 결정했다.