“고갱님 당황하셨어요?”…서민 울리는 보이스피싱, 이젠 AI가 알아서 거른다

개인정보위-과기정통부-금융위-금감원-국과수-KISA, 보이스피싱 예방 협력
예방 AI 서비스 개발 위해 보이스피싱 통화데이터 가명처리 등 전처리 후 제공
SKT가 서비스 개발·출시 예정…앱 형태로 내려받아 사용하는 '온디바이스AI'

ⓒ뉴시스

앞으로 금융당국과 수사기관이 보유한 약 2만1000건의 실제 보이스피싱 통화 내용을 학습한 인공지능(AI)이 스마트폰 내에서 스스로 보이스피싱을 탐지·차단한다.

단순 의심 회선을 차단하는 것보다 고도화된 형태로, AI를 통해 통화 내용을 분석해 보이스피싱을 탐지하게 됨으로써 빠르게 변화하는 범죄 수법에 보다 효과적으로 대응할 수 있을 것으로 보인다.

당장 SK텔레콤이 관계기관의 협조를 통해 이같은 서비스 출시를 앞두고 있다. 해당 서비스는 스마트폰에 내려받아 설치하는 애플리케이션 형태로 제공되며, 통신사 관계없이 사용할 수 있을 것으로 보인다.

◆보이스피싱 대응 위한 범정부협력…개인정보위·국과수·KISA까지 합세

개인정보보호위원회, 과학기술정보통신부, 금융위원회, 금융감독원, 국립과학수사연구원, 한국인터넷진흥원(KISA)은 3일 정부서울청사에서 AI·데이터 기반 보이스피싱 예방을 위한 상호 업무협약(MoU)을 체결했다.

그간 정부는 대표적인 민생 금융범죄인 보이스피싱에 대응해 다양한 AI·데이터 정책을 추진해왔다. 지난해 11월 관계부처 합동으로 발표한 ‘데이터 경제 활성화 추진과제’에 보이스피싱 확산 방지를 위한 민간의 AI 서비스 개발 지원이 포함됐으며, 올해 4월에는 과기정통부, 금융위, 금감원, 통신·금융협회가 ‘민생침해 금융범죄 대응·협력 강화를 위한 통신·금융부문 간 업무협약’을 체결했다.

이번 협약을 통해 보이스피싱 대응을 위한 협력 체계에 개인정보위, 국과수, KISA까지 포함되면서 기관간 협업의 범위와 깊이가 크게 확장될 전망이다. 이들은 민간의 다양한 보이스피싱 예방 AI 서비스 창출을 위해 ▲보이스피싱 통화데이터를 가명처리 등 전처리 후 제공 ▲통신·금융업계 협력 증진 ▲정부 기술개발(R&D) 사업 추진 등에 협력키로 했다.

먼저, 금융당국과 수사기관이 보유한 실제 보이스피싱 통화 데이터가 보이스피싱 예방 AI를 개발하는 민간 기업에 제공될 수 있도록 한다.

그 동안은 피해자로부터 신고된 보이스피싱 통화 데이터가 사후적인 수사 목적으로만 활용됐으나, 이번 협약을 계기로 앞으로는 사전 예방을 위한 AI 개발에도 활용될 수 있게 됐다.

금감원은 보이스피싱 피해자의 신고를 통해 수집한 통화 음성데이터를 과학수사 지원 목적으로 국과수에 지속 제공하고, 국과수는 해당 데이터를 비식별화 등 전처리 등을 거쳐 데이터를 필요로 하는 민간에 제공하는 데이터 공유체계를 구축한다.

개인정보위와 KISA는 데이터 제공·수집·이용 과정 중 발생할 수 있는 관련법상 쟁점에 대해 법령해석, 실증특례 등 규제개선 방안 등을 검토해 안전한 데이터 활용을 지원하고, 가명정보 활용 종합컨설팅 지원 사업 등을 통해 데이터 가명처리, 안전조치 이행 과정 등을 지원한다.

◆협력 첫 번째 성과…SKT에서 보이스피싱 탐지·예방 AI 서비스 개발

이러한 부처간 협업의 첫 번째 성과로 SK텔레콤이 보이스피싱 탐지·예방 AI 서비스를 개발·선보일 예정이다. 해당 서비스는 통화 문맥을 토대로 보이스피싱 의심 여부를 실시간으로 판별해, 본인이나 가족에게 알림을 주는 기능 등을 포함할 예정이다.

예를 들어 보이스피싱에 사용되는 주요 키워드나 패턴을 탐지하는 것은 물론, 통화 문맥의 특성에 대한 분석을 통해 수사기관을 사칭하거나 금융거래를 이유로 개인정보를 요구하는 행위 등 다양한 보이스피싱 상황을 즉각 인지하고 의심통화로 분류한다.

SK텔레콤은 통화 데이터가 서버로 전송되지 않고 단말 내에서 처리되도록 하는 ‘온디바이스(on-device)’ AI 기술로 개인정보보호도 강화한다는 방침이다. 이러한 온디바이스 AI 적용을 위해서는 소형 언어 모델(sLM) 구현이 필요한데, 높은 성능의 소형 언어 모델을 개발하기 위해서는 양질의 데이터가 필수적이다. 이 때문에 SK텔레콤은 그간 금감원, 국과수가 보유한 보이스피싱 통화데이터를 개인정보위, 금감원, 국과수, KISA 등에 요청해왔다.

이에 관계기관은 약 2만1000건의 통화데이터를 텍스트로 변환했고, 피해자의 이름, 계좌번호 등 민감한 정보를 비식별처리해 SK텔레콤에 제공하는 방안을 마련했다. 현재 데이터의 가명처리 등이 진행 중이며 6월 중 처리를 완료해 제공할 예정이다.

SK텔레콤은 데이터를 제공받아 모델 미세 조정(fine tuning)을 통해 성능을 정교화하고 이를 시제품에 담아 검증한 후 서비스를 출시할 예정이다. 또 향후 지속적으로 데이터를 제공받아 모델 업데이트에 활용하게 된다.

개인정보위는 통신사 등 여러 기업으로부터 보이스피싱 예방 AI 서비스 개발과 관련한 검토요청을 받았으며, 향후 금융위, 과기정통부 등과 함께 긴밀히 논의할 예정이라고 설명했다.

◆‘보이스피싱 예방 AI’ 개발 전폭 지원…‘’사전적정성 검토‘등 제도 적극 활용

이밖에 관계기관은 다양한 보이스피싱 예방 AI가 개발될 수 있도록 통신·금융업계의 협력을 증진하고 지원한다.

개인정보위, 과기정통부, 금융위는 통신·금융업계 협력 기반의 보이스피싱 예방 AI 기술·서비스를 적극적으로 발굴하고, 관련법 저촉사항 없이 추진될 수 있도록 법령해석과 규제개선 방안을 모색한다.

필요시 서비스 개발 과정에서 개인정보 법령 준수방안을 개인정보위와 함께 마련하고 사업자가 이를 이행한 경우 개인정보 보호법상 불이익한 처분을 하지 않는 개인정보위 ’사전적정성 검토제‘도 활용한다.

나아가 정부 주도로 보이스피싱 대응 R&D 사업을 기획·추진한다.

과기정통부, 개인정보위는 혁신적인 보이스피싱 탐지·예방 기술이 개발될 수 있도록 정부주도 R&D 사업을 기획·추진한다. 과기정통부는 관련 전문가와 함께 구체적인 사업을 기획하고 예산을 지원하며, 개인정보위는 연구 과정 중 개인정보보호법 관련 규제 개선사항을 발굴하고 필요시 실증특례도 추진한다.

[서울=뉴시스]