“AI 오류 대비해 인간 ‘백업요원’ 둬야”

백악관 ‘AI 권리장전 청사진’ 공개

뉴시스

2020년 1월 미국 미시간주 디트로이트. 일을 마치고 귀가한 흑인 남성 로버트 윌리엄스 씨는 영문도 모른 채 아내와 두 딸이 보는 앞에서 수갑이 채워진 채 경찰서로 끌려갔다. 인근 가게에서 시계를 훔쳐 달아난 용의자를 쫓던 경찰이 안면인식 인공지능(AI)의 오류로 범인이 아닌 그를 지목한 것이다. 윌리엄스 씨는 무려 30시간을 수감됐다 풀려났다.

미 백악관은 4일(현지 시간) 73쪽 분량의 ‘AI 권리장전 청사진’을 공개했다. 윌리엄스 씨처럼 AI 기술로 인해 특정 인종과 계층 등이 피해를 입지 않도록 △충분한 고지와 설명 △대인(對人) 서비스 제공 △개인정보 보호 △차별 방지 △안전하고 효과적인 체계 등 5대 원칙을 담고 있다.

충분한 고지와 설명은 AI가 지목한 사람들에게 해당 AI의 작동 방식 및 영향을 쉽게 설명해야 할 의무가 있다는 뜻이다. 대인 서비스 제공은 사용자가 요구하면 AI 대신 사람을 상대할 수 있도록 해줘야 한다는 의미다. 또 피부색 등 특정 알고리즘으로 인한 차별을 받지 않아야 하고 데이터의 오류나 악용 가능성으로부터 사용자를 충분히 보호해야 한다는 내용 등이 담겼다.

또한 백악관은 애플의 위치추적 기기 ‘에어태그’가 당초 목적과 달리 스토킹 범죄에 꾸준히 악용되고 있다며 정보기술(IT) 업계 전반이 안전하고 효과적인 체계를 마련하는 데 힘을 기울여야 한다고 권고했다. AI가 인간의 삶을 편리하게 만드는 장점도 있지만 부작용과 폐해 우려도 큰 만큼 시민 보호를 위한 사회 전반의 노력이 필요하다는 의미다.

이 원칙은 당장의 법적 구속력은 없다. 그러나 AI 윤리 확보를 위한 향후 입법 활동 등에서 지침 역할을 할 수 있는 만큼 사회 전반에서 널리 쓰일 것으로 보인다. 일각에서는 이번 청사진을 공상과학(SF) 소설의 대가 아이작 아시모프가 1942년 작 ‘런어라운드’에서 일찌감치 소개한 ‘로봇 3원칙’의 21세기판이라고 평한다. 로봇은 인간을 다치게 하면 안 되고, 인간의 명령을 들어야 하며, 로봇 스스로를 지켜야 한다는 이 원칙은 사회 전반에서 차지하는 로봇의 역할이 커지면서 과거보다 더 중요해지고 있다는 평을 얻고 있다.



신아형 기자 abro@donga.com