EU, ‘안면인식 AI 금지-챗GPT 출처 의무화’ 최종 협상 돌입

[위기-기회 갈림길에 선 AI]
EU, 세계 최초 ‘AI 규제법’ 시동
유엔총장 “AI관리-통제시스템 필요”
일부선 “AI가 인류 절멸시킬수도”

인공지능(AI)의 발전이 가져올 수 있는 잠재적인 위협을 최소화하려는 국제적인 규제 움직임이 본격화하고 있다. 유럽연합(EU)은 세계 최초로 AI 규제법 도입을 위한 최종 협상에 돌입한다. 유럽의회는 14일(현지 시간) 본회의 표결에서 EU 전역에서 AI를 규제하기 위한 법안 협상안이 가결됐다고 밝혔다.

이에 따라 의회는 행정부 격인 집행위원회와 27개국을 대표하는 이사회 간 3자 협상에 돌입한다. 협상안에는 챗GPT 출처 의무화와 안면 인식 등 원격 생체 인식 전면 금지, 과거 전과 등을 고려한 경찰의 AI 활용 예측 시스템 등 개인정보 및 사생활 침해 여지가 있는 방안 등이 포함됐다.

유엔은 12일 국제원자력기구(IAEA) 수준의 초국적 기구 설립에 나서겠다고 밝혔다. IAEA처럼 규제와 연구를 병행해 기술의 평화적인 이용을 도모하는 것을 목표로 하는 기구다. 안토니우 구테흐스 사무총장은 “AI가 아무도 통제할 수 없는 괴물로 진화하지 않도록 가능한 노력을 다해야 한다”며 허위 정보 및 혐오 발언 증폭을 자제해야 한다는 등의 내용을 담은 AI와 디지털 플랫폼 규제 행동강령의 원칙을 일부 공개했다. 내년 9월 22∼23일 예정된 유엔 미래정상회의를 앞두고 완성된 강령을 발표한다는 계획이다.

일부 전문가는 AI가 물리적인 위협에서 나아가 인류를 절멸시킬 가능성이 있다는 비관적 관측도 내놓으면서 규제 강화 움직임에 힘을 보태고 있다. 비영리단체 AI 안전센터는 지난달 30일 “AI로 인한 멸종 위험을 줄이는 것을 전염병 대유행이나 핵전쟁과 같은 사회적 위험과 함께 최우선 과제로 삼아야 한다”는 성명서를 발표했다. 샘 올트먼 오픈AI 최고경영자(CEO)를 비롯해 케빈 스콧 마이크로소프트(MS) 촤고기술책임자(CTO), 라일라 이브라힘 구글 AI 담당 임원 등 350여 명이 동참했다.

구글의 전 CEO인 에릭 슈밋은 지난달 24일 ‘CEO 협의회 서밋’ 연설을 통해 “AI가 아주 많은 사람들이 해를 입거나 살해당하는 실존적 위험을 내포하고 있다”고 말했다. 몬트리올대 AI 연구원인 요슈아 벤지오 교수는 “아직 현재의 AI 시스템은 실존적 위험을 제기하기엔 부족하지만 1∼5년 뒤에는 불확실성이 크다는 게 문제”라며 “상황이 파국적으로 변할 가능성도 있다”고 경고했다.

반면 AI가 인간을 공격할 것이라는 공포는 과장된 것이라는 견해도 있다. 14일 한국국방기술학회 등이 주최한 국방 AI 특별 웨비나에서 윤경용 페루 산마르틴대 석좌교수는 “AI 기술이 사람의 통제권을 벗어날 정도로 발전하지 못했다”며 “5∼10년 뒤 가능할 수 있지만 그것도 사람이 악의로 AI를 활용할 때만 발생할 수 있다”고 말했다.


남혜정 기자 namduck2@donga.com