사람 개입없이 자동화된 AI 결정 요청 있으면 기준-절차 설명해야
앞으로 인공지능(AI)만으로 진행한 면접에서 불합격한 사람은 설명·재검토를 요구하거나 결정에 불복할 수 있다.
개인정보보호위원회(개보위)는 6일 이런 내용을 담은 ‘개인정보보호법’ 개정안이 15일부터 시행된다고 밝혔다. 개정안은 AI가 개인정보를 처리할 때 정보 주체에게 기준과 절차 등을 투명하게 공개하는 한편, 당사자가 요구하면 어떤 기준과 절차에 따라 결정을 내렸는지 설명토록 하는 내용이 담겼다.
개보위 관계자는 “AI 등이 내리는 ‘자동화된 결정’에 대한 대응권이 마련되는 것”이라고 설명했다. ‘자동화된 결정’이란 사람이 개입하지 않은 채 AI 등이 개인정보를 다루면서 당사자 권리와 의무에 영향을 주는 결정을 내린 경우를 뜻한다. 예를 들어 ‘AI 면접관’이 지원자의 당락을 결정하는 경우가 대표적이다. 개정안 시행 후 ‘AI 면접관’이 합격 여부를 결정했다면 불합격자는 설명이나 재검토를 요구할 수 있고, AI의 결정에 불복할 수도 있다. 공공기관이 AI를 적용한 부정수급 탐지 시스템을 활용해 복지수당을 환수한 경우도 ‘자동화된 결정’이라서 수급자는 이를 거부할 수 있다.
전혜진 기자 sunrise@donga.com