AI가 한 대출심사 공정할까… 세계 각국 기준 마련 나서

싱가포르-EU, AI 준칙 발표
금융위도 내달 가이드라인 내놓아
취약계층 배려-기회 평등 충족 고민

싱가포르의 중앙은행 격인 싱가포르통화청(MAS)은 1월 ‘인공지능(AI) 윤리 가이드라인’을 발표했다. 금융 분야에서 활용되는 AI가 지켜야 하는 공정성, 윤리, 책임성, 투명성 원칙 등을 담은 일종의 사례집이다. 유럽연합(EU) 집행위원회 산하 AI 전문가그룹도 지난해 7월 ‘신뢰할 수 있는 AI를 위한 평가 리스트’를 발표했다. AI에 대한 감독, 기술 안전성, 개인정보 보호, 투명성, 공정성 등이 평가 항목으로 제시됐다.

금융산업에서 AI가 활용되는 영역이 갈수록 확대되면서 이를 평가하고 통제할 준칙을 마련하려는 세계 각국의 움직임도 활발하다. 디지털 금융시대에는 AI 기반의 상품과 서비스가 확대되는 것은 물론이고 AI가 대출 심사, 상품 판매, 자산 관리 등 은행원들이 하던 업무를 상당 부분 대체할 것으로 전망되기 때문이다. 특히 세계 각국은 ‘AI가 금융 분야에서 공정한 판단을 내릴 수 있는가’에 주목하고 있다. 싱가포르나 EU가 마련한 AI 준칙에도 ‘공정성’이 공통적으로 포함돼 있다.

한국 금융당국도 ‘AI 운영 가이드라인’ 마련에 나섰다. 금융위원회는 지난해 말까지 ‘금융 분야 AI 활성화를 위한 가인드라인’을 주제로 연구 용역을 진행했다. 용역을 맡은 서울대 산학협력단의 고학수 교수 연구팀은 AI가 금융시장에 안착하려면 공정성과 정확성을 확보하는 게 중요하다고 강조했다. 고 교수는 “완벽하게 공정한 AI는 수학적으로 불가능하다”며 “AI 모델이 추구하는 목적과 소비자 피해를 고려한 공정성 평가 방법을 활용해야 한다”고 말했다.

금융위는 이를 바탕으로 이르면 다음 달 AI 가이드라인을 발표할 방침이다. AI 관리 및 책임을 전담할 금융사 조직 구성, AI 운영의 신뢰성을 확보하기 위한 평가 방안 등이 담길 것으로 전망된다.

금융위는 AI에 적용할 공정성 기준을 ‘결과적 평등’, ‘기회의 평등’으로 나눠 적용할 예정이다. AI가 금융 취약계층을 대상으로 금융 서비스를 제공할 때 대출 심사 등에서 탈락시키지 않고 ‘결과적 평등’을 적용해 정책 금융이나 사회적 금융을 소개하는 식이다. 또 일반 소비자에게는 모든 상품과 서비스 제공 기회를 차등 없이 소개할 방침이다.

금융위 관계자는 “AI가 획일적인 기준으로 금융 서비스를 제공하면 소외계층이 금융 거래조차 하지 못하는 사례가 발생할 수 있다”며 “이를 위해 AI가 선택할 공정성의 기준을 유연하게 적용할 계획”이라고 했다.