AI가 살상무기로 악용될라… 지구촌 달구는 IT 윤리성 논란

슈밋 “中과 AI 핵무기 차단 협력”… 美 NSCAI 보고서에서 강조
MS직원들 美국방사업 참여 반대… 구글은 美무인기 자료 분석 손떼
SK-카카오, 직원 윤리교육 박차

“인공지능(AI)이 핵무기 사용을 허가하는 일을 막으려면 미국은 중국과도 협력해야 한다.”

미국 의회 산하 국가인공지능보안위원회(NSCAI)가 4일(현지 시간) 발표한 임시 보고서의 한 대목이다. 에릭 슈밋 전 구글 최고경영자(CEO)가 지난해 창설한 NSCAI는 이 보고서에서 “중국이 불법적인 방법을 동원해 미국의 AI 노하우를 가져가고 있다”면서도 ‘인류에 해가 되는 AI’를 막기 위해선 협력도 필요하다고 강조했다.

정보기술(IT) 업계에서 AI, 클라우드 등 최신 IT의 활용을 둘러싼 윤리성 논란이 뜨거워지고 있다. 기술 발전에 따른 일자리 감소와 같은 사회 문제뿐 아니라 감시나 살상무기용으로까지 사용될 수 있다는 우려 때문이다.

마이크로소프트(MS)가 지난달 말 아마존웹서비스(AWS)를 제치고 수주한 미국 국방부의 클라우드 구축사업인 ‘제다이 프로젝트’에 대한 반발도 비슷한 맥락이다. 제다이 프로젝트는 100억 달러(약 11조6000억 원)에 이르는 초대형 공공사업으로, 미 국방부가 대량의 데이터를 클라우드를 통해 저장, 분석해 작전 효율성을 높이기 위한 사업이다. 하지만 로이터에 따르면 MS 직원들은 사티아 나델라 CEO를 포함한 경영진에 “MS의 기술이 살상을 위한 도구가 될 수 있다”며 반대 서한을 보냈다.

반면 구글은 국방부의 ‘메이븐 프로젝트’에서 손을 뗀 데 이어 제다이 프로젝트 입찰도 포기했다. 메이븐 프로젝트는 미군 무인기로 촬영한 감시 자료를 AI로 분석하는 국방 IT 사업이다. 당시 구글 내 AI 담당 핵심 개발자를 포함한 직원들의 반발이 거세지자 계약 연장을 포기하고 일종의 윤리지침을 만들었다. 지난해 10월 제다이 프로젝트에서 철수할 때도 “회사의 AI 윤리지침과 상충한다”는 이유를 내세웠다.

국내 기업들도 ‘IT 윤리성’을 갖추기 위한 움직임이 분주하다. 최태원 SK그룹 회장은 지난달 열린 ‘시카고포럼’에서 “SK의 AI 사업에 대한 기준은 수익이 아닌 인간, 사회에 도움이 되느냐는 것”이라며 “이에 대해 직원 교육을 병행하고 있다”고 밝혔다. 카카오는 국내 최초의 사내 AI 윤리원칙인 ‘카카오 알고리즘 윤리 헌장’을 운영하고 있다.

황태호 기자 taeho@donga.com