한국거래소가 ‘금융 AI 언어 모델 경진대회’를 개최하는 이유

생성형 인공지능(AI) 기술의 발전은 산업의 틀을 송두리째 흔드는 중이다. 원하는 답변을 찾고 콘텐츠를 생성하는 것 외에도 기후변화를 분석·예측하고 인체의 비밀을 풀어 나가는 등 차세대 산업에도 영향을 주고 있다. 차별화된 사용자 경험 확보 경쟁이 치열한 시장에서도 인공지능 기술 도입에 적극적이다. 국내 금융 시장도 그중 하나다. 오프라인보다 모바일 금융 환경에 익숙한 복잡한 젊은 소비자는 직관적이고 편리한 서비스를 원한다. 경쟁사와 차별화를 꾀하려면 인공지능 서비스 검토가 적극적일 수밖에 없다.

국내 금융사의 시선은 금융에 특화된 자체 언어모델 확보다. 그러나 이미 ▲오픈AI ▲마이크로소프트 ▲구글 ▲AWS ▲메타 등 천문학적 비용 투자로 시장을 선점 중인 대형언어모델(LLM – Large Language Model)처럼 구축하는 것은 부담스럽다. 성능은 뛰어나지만 비용 부담이 상대적으로 적은 소형언어모델(sLLM – Smaller Large Language Model)에 눈길을 주는 이유다.

크게보기

이부연 한국거래소 미래사업본부 상무 / 출처=IT동아 유튜브

미래 금융시장 성장의 핵심으로 클라우드와 인공지능을 꼽은 한국거래소(KRX)도 2024년 9월 30일, ‘미래사업본부’를 신설하며 인공지능 기술을 사업 모델에 접목하기 위해 나섰다. 국내외 자본시장 경쟁환경에 효율적으로 대응하겠다는 의미다. ‘제3회 KRX 금융 언어 모델 경진대회’를 개최한 것도 한국 금융시장에서 안전하고 신뢰받는 AI 환경을 구축하려는 목표 때문이다.

금융 분야 sLLM 개발을 위한 한국거래소의 역할

이부연 한국거래소 미래사업본부 상무는 “한국거래소 미래사업본부 출범과 함께 치러지는 제3회 KRX 금융 언어 모델 경진대회는 인공지능 관련 서비스를 한국거래소 비즈니스 모델에 접목하기 위한 첫 시도라는 점에서 의미가 남다르다. 비즈니스 역량과 사업 전문성 제고를 위한 한국거래서의 의지를 대외적으로 천명하는 데 큰 의의가 있으며 대회가 한국거래소의 ▲클라우드 ▲AI 서비스 개발 등 미래 사업으로 확장되기를 기대한다”고 말했다.

2024년 10월 14일부터 11월 7일까지 진행되는 제3회 KRX 금융 언어 모델 경진대회에는 AWS도 파트너로 참가한다. 예선을 통과해 본선에 진출한 팀을 대상으로 AWS 세이지메이커(SageMaker) 교육과 AWS GPU 지원 등이 제공된다. 세이지메이커는 완전 관리형 기계 학습(ML – Machine Learning) 서비스로 기계 학습 데이터의 빠른 구축이 가능하다. 교육과 배포도 가능하고 통합 개발 환경에서 자체 도구를 지원하는 점도 특징이다.

이 외에도 아마존 베드록(Amazon Bedrock)은 ▲AI21 랩스(AI21 Labs) ▲앤스로픽(Anthropic) ▲코히어(Cohere) ▲메타(Meta) ▲스태빌리티 AI(Stability AI) ▲아마존(Amazon) 등 인공지능(AI) 기업의 다양한 고성능 파운데이션 모델(FM)을 단일 API를 통해 제공하는 완전 관리형 서비스다. 아마존 베드록을 사용하면 ▲보안 ▲개인정보 보호 및 책임 있는 AI 등 생성형 AI 애플리케이션을 구축에 필요한 광범위한 기능 세트 활용이 가능하다. 사용 사례에 맞게 상위 FM을 쉽게 실험 및 평가할 수 있고 ▲미세 조정(fine-tuning) ▲검색 증강 생성(RAG) 등 기술을 통해 데이터로 비공개 커스터마이징하고, ▲엔터프라이즈 시스템 ▲데이터 소스로 작업을 실행하는 에이전트 구축도 지원한다.

아마존 베드록은 서버리스이기 때문에 인프라를 관리할 필요가 없고, 익숙한 AWS 서비스로 생성형 AI 기능을 애플리케이션에 안전하게 통합하고 배포할 수 있다. 아마존웹서비스(Amazon Web Services, 이하 AWS)가 지난 10월 2일 AWS 아시아 태평양(서울) 리전의 아마존 베드록 정식 출시를 발표한 바 있다.

크게보기

제3회 KRX 금융 언어 모델 경진대회 / 출처=한국거래소

대회에는 한국거래소와 금융 특화 언어 모델 전문 기업인 원라인AI가 공동 개발한 ‘KRX-벤치(Bench)’를 활용한다. 예선에는 다중선택질의응답(MCQA – Multiple Choice Question Answering)를 써 금융분야 전반의 한글 언어 모델 성능을 평가하고, 본선은 금융분야 심화 내용을 다루는 한글 언어 모델을 평가한다. 한국거래소는 다양한 한글 언어 모델을 통해 금융 시장의 효율성을 높이고 투자자에게 더 정확하고 유용한 정보를 제공하게 될 것이라 보고 있다.

이부연 상무는 “오픈AI의 LLM인 챗-GPT가 뛰어난 언어 능력으로 세상을 놀라게 했다면 이제 sLLM이 특정 영역에서 두각을 드러낼 때라고 본다. 다른 금융사들도 각자 작지만 고성능 인공지능을 개발하려고 노력 중이다. 한국거래소는 점점 증가할 sLLM 개발 움직임에 주목했고 흐름 안에 우리만의 역할이 필요할 것으로 생각했다. 이번 대회는 한국거래소 미래사업 역량을 업그레이드하고 향후 ▲인공지능 ▲클라우드 기반 데이터 사업의 미래 방향을 제시하는 데 큰 의미가 있다”고 말했다.

IT동아 강형석 기자 (redbk@itdonga.com)