“첨단AI 무기화, 인류 멸종 수준 위협될 것”

美국무부 용역 AI업체 보고서
빅테크-안보 전문가 200명 인터뷰

최근 글로벌 시장에서 가장 뜨거운 관심사인 인공지능(AI)이 영화 ‘터미네이터’나 ‘어벤져스: 에이지 오브 울트론’처럼 인류를 종말로 몰고 갈 위협이 될 수 있단 보고서가 나왔다. AI가 탑재되면 어떤 무기보다 위험한 ‘대량살상무기’가 될 수 있으며, 세계 민주주의에도 엄청난 걸림돌이 될 수 있단 예측이 담겼다.

미국 CNN방송은 12일 “미 국무부 의뢰를 받아 민간업체 글래드스톤AI가 작성한 보고서는 AI의 재앙을 피할 수 있는 시간이 얼마 남지 않았다고 경고하고 있다”고 전했다. 247쪽 분량에 이르는 이 보고서는 구글 딥마인드 등 빅테크 경영진과 사이버 보안 연구원, 무기 전문가, 안보 당국자 등 약 200명의 인터뷰를 바탕으로 작성됐다.

보고서는 AI 시스템의 무기화가 가장 심각한 문제라고 보고 있다. 인간 수준의 인식을 지닌 범용인공지능(AGI·Artificial General Intelligence)이 무기화되면 “생화학 무기나 사이버 테러를 설계하고 실행할 수 있으며, 기존에 없던 응용 무기를 만들 수 있기 때문”이다. 게다가 인간이 AI 무기에 대한 통제력을 상실할 수도 있다. 국가 안보나 보안에도 AI 개발은 악영향을 끼칠 수 있다. AI 기업들이 경쟁 압박에 시달려 안전 문제를 논외로 하고 개발을 가속화한다면, 국가적인 위협으로 번질 수 있다. 한 AI 연구소 관계자는 “차세대 첨단 AI 모델이 누구나 접근 가능한 오픈 소스가 된다면, 민주주의에도 ‘끔찍하게’ 나쁜 결과를 초래할 것”이라고 말했다. 보고서는 AI의 위협에 대응하려면 감독기관과 규제법안 마련을 서둘러야 한다고 제언했다.