“군사 AI, 이미 전장에 투입… 국제 규범 만들자”

세계 90여개국 대표단-기업인 등
서울서 고위급 회의 열고 논의
“딥페이크 정보교란에 규제 필요”

9일 서울 롯데호텔에서 한국과 네덜란드가 공동 주최한 ‘2024 군사적 영역의 책임 있는 인공지능(AI)에 관한 고위급 회의(REAIM)’가 열렸다. 전 세계 90여 개국 정부 대표단과 기업인 등 민간 전문가들은 AI의 군사적 이용에 대한 국제 규범을 마련하기 위한 토론을 진행했다. 뉴시스

“우크라이나와 러시아는 전쟁에서 (인공지능 기술이 적용된) 수만 개의 드론을 사용하고 있습니다. 인공지능(AI)은 이미 세계 (곳곳의) 분쟁 지역에서 활용되고 있습니다.”

9일 서울 중구 롯데호텔 대회의장. 올 초 전쟁 중인 우크라이나를 방문했던 미국 싱크탱크 신미국안보센터(CNAS)의 폴 샤리 총괄 부사장은 “군사 AI 기술에 대한 국제 규범을 마련하는 것은 시급한 과제”라며 이같이 말했다. 2년 반째 진행 중인 우크라이나 전쟁에서 러시아와 우크라이나 군이 사용하는 AI ‘자폭 드론’의 공격 빈도가 늘어나는 만큼 ‘군사 AI’와 관련한 국제 규범도 하루빨리 완비해야 한다는 것. 이영수 공군참모총장도 “이스라엘은 하마스와의 전쟁에서 AI 시스템을 활용해 적군의 위치를 식별하고 있다”면서 “적의 정보 분석, 드론 요격, 무인기 활용 등 AI는 군의 모든 작전 분야에 활용될 수 있다”며 규범 제정의 필요성을 강조했다.

전 세계 90여 개국 정부 대표단과 기업인 등 민간 전문가들은 이날 서울에 모여 AI의 군사적 이용과 관련한 국제 규범을 마련하기 위해 머리를 맞댔다. 지난해 2월 우리 정부와 네덜란드가 헤이그에서 ‘군사적 영역의 책임 있는 AI에 관한 고위급 회의(REAIM)’를 처음 개최한 뒤 이날 서울에서 2차 회의를 열었다.

회의장 바깥에서 진행된 HD현대의 AI 무인 정찰 잠수정 시연 과정에선 카타르 군 관계자가 10분 가까이 질문을 쏟아내는 등 회의 내내 열기가 이어졌다.

외교부와 국방부가 공동 주관한 이날 회의에 참석한 전문가들은 군사 AI를 활용할 때 인간의 통제 가능성과 책임 소재를 분명히 할 국제 규범이 필요하다고 강조했다. 사이드 알 다헤리 두바이대 미래학연구소장은 “자율무기 시스템이 인간의 개입 없이 살상했을 때 누가 책임을 질 것인가라는 문제가 발생할 수 있고, AI 시스템이 오작동할 경우에도 원치 않는 분쟁이 발생할 수 있다”며 “국제법, 조약 등을 통해 인간이 AI를 통제할 수 있도록 해야 한다”고 했다. 프레더릭 추 싱가포르 국방차관보는 ‘킬러 로봇’ 외에 ‘딥페이크’와 같은 AI를 이용한 정보 교란에 주목해 관련 규제를 만들 필요가 있다며 “유엔 사무총장을 필두로 AI에 대한 통제 체제를 만들어야 한다”고 했다.

정부 대표단은 10일에는 각국 대표가 참여하는 고위급 회의를 거쳐 결과 문서인 ‘행동 청사진(Blueprint for Action)’을 발표하고, 향후 유엔 총회에서 이 문서를 토대로 관련 논의를 이어갈 방침이다. 조태열 외교부 장관도 개회사에서 “국제 평화, 안보, 인간의 존엄성을 모두 지키기 위해서는 책임 있는 AI 이용을 위한 규범과 글로벌 거버넌스를 마련하는 것이 중요하다”고 강조했다.