‘AI, 부상하는 취약 요인’ 첫 규정 “출처 알수 없는 자료로 결과물 도출 추천 과정 결함땐 소비자 피해 우려” 교황 “인류생존 위협” 국제공조 촉구
미국 금융당국이 14일(현지 시간) 사상 최초로 인공지능(AI)을 금융 안정성과 건전성을 위협할 수 있는 취약 요인으로 규정했다. 사이버 공격, 기후변화 등과 마찬가지로 AI 또한 현 금융체계와 소비자에게 상당한 위협을 가할 수 있음을 경고한 것이다.
최근 미 증권거래위원회(SEC)가 월가 대형 금융사의 AI 사용 실태를 전수 조사하는 등 미 당국은 금융 분야에 AI를 활용할 때 적용할 규칙을 만드는 작업을 본격화했다. 아직 AI 규제의 밑그림을 그리지 못하고 있는 국내 금융권에도 상당한 시사점을 줄 것으로 보인다.
● “AI의 결과 도출 원리 알기 어려워”
이번 보고서가 AI를 주요 위험으로 지정한 이유는 AI 특유의 ‘설명 가능성 부족’ 때문이다. AI 이전의 전산 체계는 ‘인풋’에서 ‘아웃풋’으로 가는 경로가 예측 가능하고 투명했다. 반면 스스로 학습하는 AI는 왜 그런 결과물이 나왔는지를 도출하는 과정이 마치 ‘블랙박스’ 같아 알 수가 없다. 이에 따라 AI 체계가 편향되거나 부정확한 결과를 생성하고 이를 은폐할 수 있다는 우려가 고조되고 있다.
AI가 사용하는 데이터의 신뢰 논란도 끊이지 않는다. FSOC는 “AI는 출처를 알 수 없거나 정리되지 않은 방대한 자료를 근거로 결과물을 내는데 이것이 편향성이 있는지 등을 알 수 없다”고 지적했다. AI가 특정 상품을 고객에게 추천했을 때 그 근거가 될 데이터와 추천 이유 등에 결함이 있으면 결국 소비자 피해로 이어질 수 있다.
또 대출 승인에 사용된 AI가 특정 인종 등에 대한 편향성 등을 바탕으로 일부 고객에게 인종차별적인 결과를 야기할 가능성도 있다. 최근 ‘2023 동아뉴센테니얼포럼’에 참여한 세계적인 미래학자 제이슨 솅커 퓨처리스트 인스티튜트 의장은 “방대한 데이터를 기반으로 한 AI 결과물은 단조롭고 왜곡될 수 있다. 독점적 정보나 기밀이 유출될 수 있다는 점도 위험 요소”라고 지적했다. FSOC 위원이기도 한 게리 겐슬러 SEC 위원장도 영국 파이낸셜타임스(FT) 인터뷰에서 당국이 AI 위험을 통제하기 위해 신속하게 개입하지 않으면 10년 안에 금융 위기를 촉발하는 것을 “거의 피할 수 없다”고 경고했다.
● 교황 “AI 활용 자율무기 체계, 인류 생존 위협”
뉴욕=김현수 특파원 kimhs@donga.com
김보라 기자 purple@donga.com
신아형 기자 abro@donga.com