‘AI 채용’ 차별 논란에… 뉴욕 “성별-인종 편향 공개하라” 첫 규제

공개 안하면 벌금… 편향 불이익 없어
AI 활용 채용땐 지원자에 알려야
美 500대 기업 99% AI 채용 도입
빅테크 몰린 캘리포니아도 규제 논의

《미국 뉴욕시가 세계 처음으로 채용 과정에서 인공지능(AI) 프로그램을 활용하는 기업에 의무적으로 편향성을 따져보게 하는 규제를 도입했다. 앞으로 뉴욕시에서 활동하는 기업은 지원자 성별과 인종에 따른 채용 결과를 감사해 매년 공개해야 한다. AI를 활용해 입사 지원서를 평가하거나 면접을 보는 기업이 늘어나면서 자동화된 알고리즘에 따른 차별을 방지하려는 시도다. 》

미국 뉴욕시의 기업들은 인공지능(AI)을 채용에 활용할 경우 채용 결과가 성별이나 인종 등에서 편향되지 않았는지 여부를 평가해 매년 공개해야 한다. 뉴욕시는 AI가 학습 과정에서 갖게 된 편견이 채용의 공정성을 해칠 수 있다는 우려가 커지자 세계에서 처음으로 이 같은 규제를 도입했다. 미국 내 다른 지역과 유럽 각국이 ‘AI 채용’ 관련 규제를 적극 검토하고 있어 뉴욕시의 선례가 효과를 거둘지 관심이 쏠린다.

● 美 기업, 99% 채용에 AI 기술 활용

뉴욕시는 5일(현지 시간) AI 채용 규제안을 담은 ‘NYC 144’가 이날부터 발효됐다고 밝혔다. 뉴욕시의회는 2021년 AI가 채용 전형 과정에서 성이나 인종을 차별하는 분류 기준을 적용해 지원자들을 불공정하게 떨어뜨리고 있다는 지적에 따라 해당 법안을 통과시켰다.

AI 채용은 미국 기업들에 이미 보편화됐다. 미 정부는 미 기업 83%, 미 포천지 선정 500대 기업 99%가 AI를 채용 과정에 활용하는 것으로 조사됐다고 1월 발표했다. AI는 입사 지원서를 검토해 지원 자격에 미달하는 서류를 거르거나 채용 담당자가 보다 꼼꼼히 살펴볼 후보군을 추린다. 지난해 골드만삭스는 인턴 채용에 AI를 활용해 지원자 23만6000명 중 1.5%에 해당하는 3700명을 선발했다.

하지만 AI 채용의 공정성 논란은 아마존이 자체 개발한 채용 AI 프로그램의 성차별 편향이 2018년 알려지면서 본격화됐다.

아마존은 엔지니어 채용을 목표로 2014년 AI 채용 프로그램 개발에 착수했으나 AI가 여성과 관련된 단어가 포함된 이력서는 점수를 낮게 채점하는 경향을 보였다. 여대를 졸업하거나 ‘여성 체스 동아리 회장’처럼 ‘여성’이란 단어가 이력서에 등장하면 감점하는 식이다. 업계에 남성 엔지니어가 많기 때문에 AI가 남성이 업무 적합도가 높다고 본 것이다. 아마존은 시스템 개선에 나섰지만 공정성 확보에 실패했다고 판단해 결국 2017년 AI 채용 프로그램을 폐기했다.

● “AI 채용 편향성 평가 결과 의무공개”

‘NYC 144’ 법에 따르면 뉴욕 시민을 고용하는 기업은 매년 독립된 외부기관으로부터 채용 결과의 공정성에 대한 평가를 받아 그 결과를 공표해야 한다. 또 지원자에게 채용 전형 과정에서 AI 활용 여부를 사전에 알려야 한다.

합격자의 성별이나 인종이 어느 한쪽으로 기울어져 있다고 해서 기업이 불이익을 받지는 않는다. 그러나 결과 보고서를 지정된 날짜에 공개하지 않으면 지연 일수마다 최대 1500달러씩 벌금이 부과된다. 채용에 AI 활용 자체를 규제하진 않되, 보고서 공개를 통해 기업들 스스로 AI 채용에 따른 편향 가능성을 통제하도록 유도한 것이다. 월스트리트저널(WSJ)은 “AI 알고리즘이 지나지게 복잡하기 때문에 (알고리즘을 규제하는 대신) 채용 과정의 투명성을 높이는 방법을 택했다”고 평가했다.

뉴욕시 규제는 미국 전반에 영향을 줄 것으로 전망된다. 빅테크 기업이 몰린 미 캘리포니아주도 AI 채용 규제안 도입 논의를 진행하고 있다. 뉴욕타임스(NYT)는 “AI에 대한 감사는 앞으로 더욱 활성화될 것”이라고 분석했다.

AI는 채용을 넘어 기업 활동 전반에 스며들고 있다. 특히 인사 평가에 AI를 활용하는 사례가 늘고 있다. 구글이 올 1월 1만2000명을 정리해고한다고 발표했을 당시 감원 대상자 선별에 AI를 활용했다는 의혹이 제기되기도 했다. 피터 베르데젬 영국 웨스트민스터대 교수는 저서 ‘모두를 위한 AI?’에서 “기업은 지금보다 AI를 더 많이 활용해 사람을 데이터로 다룰 것”이라며 “이럴수록 알고리즘 편향성에 대한 경각심을 잃어선 안 된다”고 지적했다.