美-EU 등 ‘AI 위험 통제’ 첫 국제조약 서명한다

50개국이 초안… 10개국 우선 참여
유해 콘텐츠 감시-인권준수 등 담아
세계적 규제 첫발, 기대감 높아

미국, 유럽연합(EU), 영국 등 서방 주요국이 인공지능(AI)의 활용에 관해 법적 구속력을 갖춘 첫 국제 조약에 서명하기로 했다. AI의 위험을 통제하고 주요 AI 기업 또한 관련 기술과 서비스를 개발할 때 충분한 책임을 지도록 유도하자는 취지다. 최근 전 세계적으로 AI에 기반 이미지 합성 기술 ‘딥페이크’의 악용에 따른 각종 문제가 발생하고 있는 터라 이번 조약에 대한 기대감이 높다.

5일 영국 파이낸셜타임스(FT) 등에 따르면 이날 미국, EU, 영국 등은 ‘유럽평의회 AI 조약’에 서명하기로 했다. 유해하고 차별적인 콘텐츠를 담은 AI 서비스는 관련 당사국이 책임을 지도록 했고, AI 서비스에서 인권, 민주주의 가치 등을 강조했다. AI로 인해 권리를 침해당한 피해자의 법적 구제 관련 내용 등도 포함됐다.

조약의 초안은 일본 호주 캐나다 이스라엘 등 50여 개국이 최근 2년간 마련했다.이 중 10개국이 첫 조약 서명국으로 참여한다고 유럽평의회 관계자는 전했다.

피터 카일 영국 과학혁신기술부 장관은 “(AI 규제와 관련해) 세계적으로 첫발을 떼는 게 정말 중요하다. 세계적으로 실질적인 힘을 갖춘 첫 조약”이라고 의미를 부여했다. 이해관계가 서로 다른 여러 국가를 한데 모으는 게 쉽지 않은데 이것이 가능해졌다는 의미다. 조 바이든 미국 행정부의 고위 당국자도 “미국은 AI 기술이 인권과 민주주의 가치를 준수하도록 전념하고 있다”고 밝혔다.

다만 벌금 등 조약 위반에 대한 구체적인 제재 방안이 없어 구속력이 약하다는 지적도 나온다. AI 기업의 조약 규정 준수 여부 또한 강제성 높은 조사가 아닌 당국의 통상적인 관찰로 판단해 실효성이 떨어진다는 것이다.

앞서 EU는 지난달 세계 최초로 ‘포괄적 AI 규제법’을 시행하기 시작했다. 그러나 AI 업계 일각에서는 “과도한 규제가 혁신을 저해한다”는 불만을 제기하고 있다. 페이스북의 모기업인 미국 메타는 이 규제 때문에 EU에서는 자사의 AI 모델 ‘라마’를 출시하지 않기로 했다.



파리=조은아 특파원 achim@donga.com