“터미네이터-매트릭스 현실화 막아라”… ‘인간을 위한 AI’ 가이드라인 나왔다

호킹-머스크 등 과학계 2000여명, 무기경쟁 지양-일자리 보호 등 ‘아실로마 원칙’ 23개 조항 서명

　“인공지능(AI)은 인간 존엄, 권리, 자유, 그리고 문화 다양성의 이상에 부합하도록 설계되고 만들어져야 한다.”

　일론 머스크 테슬라 최고경영자(CEO)는 지난달 30일 이를 포함한 AI 개발의 23개 원칙을 담은 ‘아실로마 AI 원칙’을 자신의 트위터에 게시했다. 이 원칙은 지난달 초 미국 캘리포니아 주 아실로마에서 열린 AI 전문가 회의에서 도출된 결과물로 지금까지 머스크를 비롯해 천체물리학자 스티븐 호킹, 데미스 허사비스 구글 딥마인드 CEO, 저명한 미래학자인 레이먼드 커즈와일 등 총 2000여 명의 과학·기술계 주요 인사가 지지 서명을 남겼다.

　미래를 지향하며 AI 산업은 물론이고 사법과 군사 분야에도 적용될 23개 원칙은 AI의 ‘이로운 사용’을 반복적으로 강조한다. AI가 지구 생명의 역사에 심대한 변화를 불러올 수도 있는 만큼 AI 개발자와 사용자가 맞닥뜨릴 수 있는 혼란을 최소화할 수 있도록 구체적 지침을 제시했다.

　　‘살상 가능한 자율적 무기로 인한 군비 경쟁은 지양해야 한다’는 18번째 원칙이 대표적이다. 영화 ‘터미네이터’와 ‘매트릭스’ 속 AI 로봇과 AI 지배 가상현실처럼 인간을 위협하는 일은 막아야 한다는 호소다. AI 원칙 개발에 동참한 토비 월시 호주 뉴사우스웨일스대 교수는 “군인과 시민을 분간하지 못하고 국제법을 준수할 수도 없는 ‘멍청한’ AI가 군비 경쟁 대상이 될 수 있다”며 “그렇게 된다면 세계질서가 흔들릴 것”이라고 우려했다.

　AI 법관의 판결 정확도가 80%에 이른다는 일부 연구 결과가 나온 가운데 ‘인간의 통제 가능성’을 강조하는 기준도 제시됐다. 8번째 원칙은 ‘자율 시스템이 사법 결정 과정에 관여하게 된다면 (이에 대한) 인간 전문가의 감사가 가능할 수 있도록 충분한 설명을 제공해야 한다’는 내용을 담고 있다.

　　‘AI로 인한 경제적 풍요는 전 인류에게 이롭도록 널리 공유해야 한다’는 15번째 원칙은 AI가 사람의 일자리를 빼앗을 것이라는 불안감을 불식하기 위한 것이다. ‘AI에 결정권을 이양하느냐는 인간이 결정한다’는 16번째 원칙과 ‘AI로 인해 촉발될 수 있는 재앙적, 존재적 위험에 대응하기 위해 상응하는 완화 노력을 기울여야 한다’는 22번째 원칙은 사회의 주도권을 결코 기계에 뺏기지 않겠다는 인간 의지의 표현으로 풀이된다.

　전문가 회의를 주최한 비영리단체 ‘퓨처 오브 라이브 인스티튜트(FLI)’는 “어떻게 하면 AI를 모두에게 이롭게 만들 수 있을지 토론하는 활발한 공간을 ‘아실로마 AI 원칙’이 제공할 수 있기를 바란다”고 밝혔다.

한기재　기자 record@donga.com