“AI 인류멸종 수준 위협될 수도”…美 보고서의 섬뜩한 경고

최근 글로벌 시장에서 가장 뜨거운 관심사인 인공지능(AI)이 영화 ‘터미테이터’나 ‘어벤져스:에이지 오브 울트론’처럼 인류를 종말로 몰고갈 위협이 될 수 있단 보고서가 나왔다. AI가 탑재되면 어떤 무기보다 위험한 ‘대량살상무기’가 될 수 있으며, 세계 민주주의에도 엄청난 걸림돌이 될 수 있단 예측이 담겼다.

미국 CNN방송은 12일 “미 국무부 의뢰를 받아 민간업체 글래드스톤AI가 작성한 보고서는 AI의 재앙을 피할 수 있는 시간이 얼마남지 않았다고 경고하고 있다”고 전했다. 247쪽에 이르는 이 보고서는 구글 딥마인드 등 빅테크 경영진과 사이버 보안 연구원, 무기 전문가, 안보 당국자 등 약 200명의 인터뷰를 바탕으로 작성됐다.

보고서는 AI 시스템의 무기화가 가장 심각한 문제라고 보고 있다. 인간 수준의 인식을 지닌 범용인공지능(AGI·Artificial General Intelligence)이 무기화되면 “생화학 무기나 사이버 테러를 설계하고 실행할 수 있으며, 기존에 없던 응용 무기를 만들 수 있기 때문”이다. 게다가 인간이 AI 무기에 대한 통제력을 상실할 수도 있다.

국가 안보나 보안에도 AI 개발은 악영향을 끼칠 수 있다. AI 기업들이 경쟁 압박에 시달려 안전 문제를 논외로 하고 개발을 가속화한다면, 국가적인 위협으로 번질 수 있다. 한 AI 연구소 관계자는 “차세대 첨단 AI 모델이 누구나 접근 가능한 오픈 소스가 된다면, 민주주의에도 ‘끔찍하게’ 나쁜 결과를 초래할 것”이라고 말했다.

보고서는 AI의 위협에 대응하려면 감독기관과 규제법안 마련을 서둘러야 한다고 제언했다. AI 시스템에 사용하는 컴퓨터 성능을 제한하는 것도 한 가지 방법이다. 미 국무부 당국자는 “AI가 미 국익 보호에 어떻게 부합할 수 있을지 지속적으로 평가하고 있다”고 말했다.

김보라 기자 purple@donga.com