콥스랩, 금융권 대기업 사내 챗봇 시스템에 RAG 시스템 구축

 인공지능(AI) 컨설팅·교육·프로젝트 전문 기업 콥스랩(COBSLAB, 대표 류태선)이 국내 금융권 대기업 사내 챗봇 시스템에 RAG(Retrieval-Augmented Generation) 시스템을  성공적으로 구축했다고 밝혔다.

 콥스랩은 AI 기술을 통해 기업의 비즈니스 혁신을 지원하는 전문 기업으로 입지를 굳히고 있다. 특히 딥러닝 기반 솔루션, 데이터 통합 및 분석, 맞춤형 AI 플랫폼 제공 등 다채로운 AI 서비스를 선보이고 있다.

 RAG는 검색 기반 접근법을 통합해 언어 모델(LLM)의 한계를 보완하는 기술이다. 해당 기술은 보다 정확하고 맥락에 최적화된 답변을 제공하는 것이 특징이다. 콥스랩은 해당 기업 챗봇 시스템에 CobsLLM, HyDE, Self-RAG 등의 기술을 적용했다. 무엇보다 각각의 기술이 유기적으로 통합되어 최적의 성능을 발휘하도록 설계됐다는 설명이다.

 HyDE는 사용자 질문을 토대로 가상의 문서를 생성해 검색 정확도를 높이는 기술이다. 해당 기술은 복잡한 질문을 받아도 최적의 답변을 찾아낼 수 있도록 돕는다. Self-RAG는 기존 RAG 기술을 한 단계 발전시킨 형태로 생성된 답변의 품질을 자체 검증하여 오류 및 할루시네이션 등을 최소화하는 기능을 지원한다.

 콥스랩 관계자는 “이번 금융권 대기업 구축 사례를 통해 자사 기술력과 전문성을 다시 한번 입증할 수 있어 기쁘다”며 “앞으로도 다양한 산업군과의 협력을 통해 AI 기술 혁신을 지속해 나갈 것”이라고 말했다.

최용석 동아닷컴 기자 duck8@donga.com