美 “핵무기 등 AI의 군사적 이용, 인간이 통제해야”

[AI 충격파]
‘군사 AI’ 첫 장관급 국제회의
포괄적 지침 담은 선언문 마련
韓 등 60여개국 관계자 머리 맞대

미국 국무부가 16일(현지 시간) 인공지능(AI)의 군사적 사용에 대한 포괄적 지침을 담은 선언문을 처음 공개했다. 15, 16일 양일간 네덜란드 헤이그에서는 한국과 네덜란드의 공동 주최로 ‘군사적 영역에서의 책임 있는 AI에 관한 장관급 회의(REAIM 2023)’ 또한 열렸다. AI의 군사적 사용을 주제로 열린 첫 국제 장관급 회의로 박진 외교부 장관도 참석했다. 미 AI 업체 ‘오픈AI’의 챗봇 ‘챗GPT’, 마이크로소프트(MS)의 ‘빙AI’ 등이 돌풍을 일으키고 있는 가운데 AI의 오용에 따른 위험을 시정하려는 국제사회의 노력 또한 가시화하고 있다.

국무부는 이날 REAIM 2023을 통해 공개한 선언문에서 “AI가 핵무기에 관한 결정을 실행하는 데 인간의 통제와 개입을 유지하고 모든 군사적 AI 능력의 개발과 전개 시 고위 정부 관료의 감독을 보장할 것 등을 촉구한다”고 밝혔다.

특히 군사 AI 체계를 엄격하게 테스트하고 평가해 AI가 의도하지 않은 행동을 할 때 비활성화할 수 있는 원칙을 제시했다. 국무부는 “무력 충돌에서 AI를 사용하려면 국제법과 원칙을 준수해야 한다”며 이 선언문이 AI의 책임 있는 사용을 위한 토대 역할을 수행하기를 기대한다고 강조했다.

REAIM 2023에는 한국 미국 중국 등 60여 개국 정부 관계자, 80여 개국 기업, 연구기관, 국제기구 종사자 등 2000여 명이 참여했다. 지난해 2월 우크라이나를 침공한 러시아는 초대받지 못했다.

참석한 각국 정부 관계자는 ‘공동 행동 촉구서’를 통해 “각국이 군사 영역에서 책임 있는 AI에 대한 국가 차원의 틀, 전략, 원칙 등을 개발하도록 권한다”고 했다.

현재 우크라이나와 러시아는 군사용 AI를 모두 활발하게 사용하고 있다. 로이터통신 등에 따르면 우크라이나군은 러시아군의 침공 후 정보기술(IT) 기업 ‘클리어뷰’의 AI 안면인식 기술을 러시아군 사망자 신원 확인에 사용하고 있다. 불리한 전황에 관한 정보를 통제하는 러시아 당국을 대신해 유족에게 전사 사실을 알린 후 러시아 내 반전 여론을 조성하려는 목적이다.

우크라이나군은 또 다른 미 IT 기업 ‘팔란티어’가 개발한 AI 소프트웨어도 적극 활용하고 있다. 위성, 열 감지기, 정찰 무인기(드론), 스파이 등을 통해 수집한 정보로 러시아 포병, 탱크 및 군대의 좌표 목록을 알려준다. 러시아 관영 타스통신에 따르면 러시아군 또한 유탄발사기, 기관총 등을 장착한 무인 전투차량 ‘마르케르’를 우크라이나 전장에 투입하겠다고 발표했다.

박 장관은 회의 후 취재진에 “AI는 빠르게 발전하고 있고 우리는 너무 늦기 전에 준비하고 행동해야 한다”라고 강조했다. 군사용 AI의 악용 방지책 마련이 핵, 미사일 등 북한의 대량살상무기(WMD) 프로그램이라는 실질적 위협에 직면한 한국에 더 중요하다고 했다. 내년 중 한국에서 REAIM 회의를 개최하겠다고 덧붙였다.