노벨상 AI연구자들 “통제불능 ‘초지능 AI’ 우려”

물리-화학-경제학상 수상자 회견
“5~20년이면 초지능 개발될 것
안정성 고민 더 빨리 못한것 후회
AI무기 규제 안해 군비경쟁 심화”

크게보기

7일(현지 시간) 스웨덴 스톡홀름 왕립과학한림원에서 열린 2024 노벨 경제학상·화학상·물리학상 수상자 공동 기자회견에 참석한 제프리 힌턴 캐나다 토론토대 교수(왼쪽)와 데미스 허사비스 구글 딥마인드 최고경영자(CEO)가 기자들의 질문에 답하고 있다. 스톡홀름=AP 뉴시스

올해 인공지능(AI) 연구로 노벨상을 받은 수상자들이 인간의 인지능력을 뛰어넘는 ‘초지능 AI’가 가져올 통제 불능 상황에 대한 우려의 목소리를 내놨다. AI 성능이 빠르게 개선되고 활용범위가 넓어지는 만큼 규제도 면밀히 해야 한다는 주장이다.

7일(현지 시간) 스웨덴 왕립과학한림원에서 열린 노벨 물리·화학·경제학상 수상자 공동 기자회견에서 제프리 힌턴 캐나다 토론토대 교수는 ‘초지능 AI가 존재할 수 있다고 보느냐’를 묻는 질문에 “우리가 내내 실현되리라고 믿어 온 부분”이라고 답했다.

힌턴 교수는 “예전에는 초지능 개발 시기가 훨씬 더 늦을 것이라고 예상했지만 최근 개발 속도를 보면 5∼20년이면 개발이 될 것 같다”며 “어떻게 (AI에 대한) 통제력을 유지할 수 있을지 심각한 고민이 필요하다”고 말했다. 그는 과거로 돌아간다면 어떤 게 가장 후회되느냐는 질문에 “안전성에 대한 고민을 더 빨리 했어야 했다”고 답했다. 힌턴 교수는 챗GPT 같은 대규모 언어 모델(LLM)의 근간이 된 ‘딥러닝’ 개발에 기여한 공로로 존 홉필드 미국 프린스턴대 교수와 함께 올해 노벨 물리학상을 받았다.

AI로 단백질 구조를 파악하는 ‘알파폴드’ 개발 공로를 인정받아 올해 노벨 화학상을 수상한 데미스 허사비스 구글 딥마인드 최고경영자(CEO)도 이날 힌턴 교수의 의견에 동의하며 “나의 열망은 과학적 발견에 기여하는 AI 도구를 개발하겠다는 것”이라면서도 “AI는 인류가 개발한 가장 강력한 기술 중 하나일 것이기에 위험성을 매우 심각하게 다룰 필요가 있다”고 지적했다.

노벨상 수상자들은 군비 경쟁에 활용되고 있는 AI에 대한 규제가 반드시 필요하다는 입장을 밝히기도 했다. 힌턴 교수는 AI 기술이 적용되는 ‘치명적 자율무기(LAWS)’에 관해 각국 정부가 어떤 규제도 하지 않고 있으며, 주요국의 군비 경쟁이 심화하고 있다고 비판했다. 허사비스 CEO는 “AI는 규제가 필요한 기술이며 특히 올바른 규제를 적용하는 것이 매우 중요하다”면서 “기술이 매우 빠른 속도로 진화하고 있어 불과 몇 년 전 논의한 규제 방법이 지금 논의할 만한 규제가 아닐 수 있다”며 빠르고 신속한 국제 협의 필요성을 강조했다.

최근 오픈AI가 미국 방위산업 업체 안두릴 인더스트리스와 함께 AI를 활용한 미군의 드론 방위 시스템 기술을 공동 개발하기로 결정하는 등 AI의 군사적 사용이 확산되는 추세다. 앤스로픽도 글로벌 방산업체 팔란티어, 아마존웹서비스(AWS)와 손잡고 미국 정보 및 방위 당국에 AI 기술을 제공하기로 했다. 앞서 중국은 메타의 AI ‘라마’를 활용한 군사 AI 챗봇을 개발한 바 있다.