“AI 악용한 피싱-해킹 속출… 위험 막을 선제적 금융보안 급해”

2024 동아 인포섹-정보보호 콘퍼런스
“가짜뉴스-딥페이크가 금융 위협
예방기술 개발-처벌법 마련 절실
AI가이드라인 만들어 위험 통제를”

27일 서울 중구 롯데호텔에서 열린 ‘2024 동아 인포섹-정보보호 콘퍼런스’에서 전요섭 금융위원회 금융혁신기획단장이 ‘인공지능(AI) 시대에 대응하는 디지털 금융 정책방향’을 주제로 기조 강연을 하고 있다. 이날 전 단장은 금융 분야의 AI 활용 확대에 따른 정책 방향을 설명하며 “우리 금융이 디지털 금융 분야를 선도할 수 있는 방향으로 정책을 만들어 나가겠다”고 밝혔다. 김동주 기자 zoo@donga.com

“챗GPT, 바드(구글의 인공지능 챗봇) 등의 고성능 모델을 쉽고 저렴하게 사용할 수 있게 되면서 생성형 인공지능(AI)이 고객 응대 업무에 널리 쓰이기 시작했습니다. 하지만 가짜뉴스, 딥페이크(이미지 조작) 등 생성형 AI를 악용한 위협도 속출하고 있어 이에 대한 대응도 필요합니다.”(이혁준 금융보안원 AI혁신실 AI기술팀장)

동아일보와 채널A는 27일 서울 중구 롯데호텔에서 ‘AI 시대의 금융보안’을 주제로 ‘2024 동아 인포섹-정보보호 콘퍼런스’를 개최했다. 이 자리에 참석한 전문가들은 AI가 다양한 영역에서 활용되는 현 상황에서 금융보안이 중요한 화두로 떠올랐다고 진단했다. 국회 정무위원회 소속 국민의힘 최승재 의원은 축사에서 “금융이 기술 중심으로 변모하는 과정에서 거대한 위험에 직면한 상황”이라며 “금융보안이 정보 유출, 피싱, 해킹 등을 막기 위해 투자해야 할 중요한 영역으로 자리 잡았다”고 강조했다.

● 모바일 속에도… 일상 깊숙이 침투한 AI

이날 기조강연에 나선 전요섭 금융위원회 금융혁신기획단장은 “금융권을 필두로 로보어드바이저, 챗봇, 이상 금융거래 탐지 등 다양한 분야에서 AI를 도입하는 추세”라며 “생성형 AI의 성장 잠재력을 고려할 때 AI 도입과 활용은 필수적인 분위기로 자리 잡고 있다”고 말했다.

전문가들은 모바일 기기 자체에서 AI가 구현되는 ‘온디바이스 AI’에도 주목했다. 실제로 지난달 미국 라스베이거스에서 열린 세계 최대 정보기술(IT)·가전 전시회 ‘CES 2024’에서 구글, 삼성, 애플 등 글로벌 기업들이 관련 신제품을 출시하기도 했다.

신석영 하나금융경영연구소 수석연구원은 “온디바이스 AI의 확산으로 산업과 개인에 특화된 서비스가 본격화되고 있다”며 “생성형 AI의 출현으로 건설, 제조, 화장품 등 모든 산업에서 AI 도입과 응용이 확대되는 추세”라고 분석했다.

● 딥페이크 등 AI를 악용한 위협도 증가

문제는 AI 도입, 활용이 잦아지면서 이를 악용하는 사례도 증가하고 있다는 점이다. 이호석 SK쉴더스 EQST Lab팀장은 강연 현장에서 딥페이크 기술을 시연해 청중들의 시선을 끌었다. 이 팀장은 “AI를 다루지 못하는 일반인들도 누구나 딥페이크를 사용할 수 있다”며 “딥페이크로 형성된 합성 미디어를 탐지하는 기술 연구와 함께 AI 악용 사례를 강력 처벌하는 법적 근거 마련이 시급한 상황”이라고 지적했다. 김기웅 KB국민은행 정보보호부 차장도 “전 세계 사이버 위협에 효과적으로 대응하기 위해 선제적인 위협 식별 활동이 중요하다”고 강조했다.

금융당국은 AI에 대한 위험 통제 방안이 없을 경우, 금융 시스템 전반에 위기를 촉발할 불확실성이 크다고 우려하고 있다. 이에 따라 2021년 금융 분야의 ‘AI 가이드라인’을 만드는 등 사회적 신뢰를 공고히 하기 위해 노력하고 있다. 전 단장은 “AI의 학습 과정을 인간이 모두 파악하기 어려운 데다 편향된 예측을 펼치는 사례도 적지 않다”며 “금융사들이 특정 AI 모델에 과하게 의존할 경우 금융권 자금 흐름, 의사결정 등이 같은 방향으로 쏠릴 수 있다. 이런 점을 감안해 2021년 AI 가이드라인을 만들어 대응하는 중”이라고 설명했다.