배경
금융 데이터의 복잡성이 증가하고 실시간 인사이트에 대한 수요가 높아짐에 따라, 금융 서비스 기업들은 경쟁력을 유지하기 위해 AI 기반 솔루션으로 눈을 돌리고 있습니다. 남아프리카에 상장된 대표적인 금융 서비스 기업인 Alex Forbes는 매달 100만 명이 넘는 연금 가입자를 관리하며, 투자 솔루션, 재무 자문, 보험 서비스를 제공합니다.
증가하는 데이터 수요에 대응하고 운영 효율성을 높이기 위해, 이 회사는 데이터를 중앙에서 통합하고, 프로세스를 간소화하며, 고급 분석을 지원할 수 있는 GenAI 기반 데이터 솔루션을 모색했습니다. 그러나 분산된 데이터 소스, 사용성 문제, 통합 과정의 병목 현상이 이러한 추진에 장애물이 되었습니다
도전 과제
Alex Forbes는 데이터 관리 및 분석 과정에서 여러 가지 중요한 장애물에 직면했습니다. 이 회사는 브로커 및 가입자 기여금 산정과 같은 핵심 금융 업무 처리를 Power BI에 크게 의존하고 있었지만, 원활한 통합과 실시간 데이터 접근에는 어려움을 겪고 있었습니다.
- 데이터 파편화 및 통합 복잡성
- 핵심 금융 계산이 Power BI에 의존했지만 백엔드 통합이 부족했습니다.
- 데이터가 새로운 CRM을 비롯한 여러 시스템에 분산되어 있어 통합된 데이터 접근이 어려웠습니다.
- 사용자 경험의 한계
- 분리된 시스템 구성 요소들로 인해, 역할별 사용자들이 일관되지 않고 복잡한 인터페이스를 사용해야 했습니다.
- 비기술 직원들은 SQL 기반 쿼리에 어려움을 겪었고, 이로 인해 핵심 금융 데이터에 접근하는 데 제약이 있었습니다.
- 9개국에 걸친 운영 환경에서, 다국어를 지원하는 AI 기반 고객 서비스 인터페이스가 없다는 점은 원활한 상호작용을 방해했고, 고객 경험과 실시간 의사결정에도 부정적인 영향을 미쳤습니다.
- 초기 GenAI 도입의 어려움
- 셀프 서비스형 GenAI 솔루션이 도입되고 있었으며, 이는 이직 등 인생 변화에 따라 금융 상품을 추천하는 고객 서비스 담당자들을 지원하기 위한 것이었습니다. 이들은 가입자의 이력, 고용 정보, 금융 기록 등에 즉시 접근해 실시간 계산을 해야 했지만, 데이터 공유에 대한 보안 우려로 도입이 지연되었습니다.
- 초기 GenAI 시스템은 대규모 벡터 데이터베이스에 크게 의존하고 있었고, 이는 막대한 연산 자원을 요구하며 확장성과 비용 측면에서 병목 현상을 유발했습니다.
- CSV 내보내기, 다양한 데이터 소스, 서드파티 도구에 대한 의존으로 인해 데이터 거버넌스가 약해졌고, 그 결과 데이터 사일로, 시스템 제어 한계, 단절된 데이터 관리 문제가 발생했습니다.
- 정적 데이터 처리와 서드파티 도구에 대한 의존으로 인해 실시간 인사이트 확보가 불가능했고 업무 지연이 발생했습니다.
- Power BI 통합 병목 현상
- Power BI가 백엔드 시스템과 원활하게 통합되지 않아 실시간 금융 데이터를 가져오는 데 한계가 있었고, 그로 인해 브로커 및 가입자 기여금과 같은 비즈니스 핵심 계산을 관리하는 것이 어려웠습니다.
솔루션
이러한 문제를 해결하기 위해 Alex Forbes는 거버넌스 문제를 해소하고 데이터 사일로를 제거하며, 플랫폼 전반에 걸쳐 안전한 실시간 데이터 접근을 가능하게 하는 논리적 데이터 관리 플랫폼인 Denodo의 데이터 패브릭을 도입했습니다.
접근성과 효율성을 한층 더 높이기 위해, Alex Forbes는 Denodo의 AI SDK와 RAG(검색 증강 생성)를 활용하여 금융 및 운영 데이터 소스 전반에서 자연어 쿼리와 메타데이터 기반 인텔리전스를 구현했습니다.
솔루션의 주요 구성 요소는 다음과 같습니다:
- AI 기반 쿼리 처리:
- Denodo의 AI SDK를 사용해 자연어 쿼리를 처리하며, 고도화된 AI 모델을 통해 사용자 입력을 자동으로 SQL 쿼리로 변환합니다.
- 사용자 의도를 정확히 해석할 수 있도록 컨텍스트 메타데이터를 삽입하여 정밀한 쿼리 실행을 보장합니다.
- Denodo의 Query RAG는 전체 데이터셋이 아닌 메타데이터만 인덱싱하여 벡터 데이터베이스 내에서 효율적인 검색을 가능하게 하며, 민감한 금융 데이터를 노출하지 않고도 검색 효율을 향상시킵니다.
- SQL 문장은 Denodo 엔진에서 실행되어 데이터 무결성을 유지하고 논리적 데이터 패브릭 수준에서 중앙에서 관리되는 데이터 접근 정책을 준수하면서 정확한 결과를 제공합니다.
- 최종 응답은 대규모 언어 모델(LLM)이 보강한 자연어 형태로 반환되어 다양한 언어로 원활하게 상호작용할 수 있습니다.
Power BI 위젯 통합:
Alex Forbes의 사용자 접근성을 높이기 위해 Denodo는 AI SDK와 Power BI 확장 개발 키트를 사용해 맞춤형 Power BI 위젯을 개발했습니다. 위젯을 통해 사용자는 자연어 쿼리를 제출하고, 실시간 인사이트를 얻으며, 복잡한 SQL 문장을 수동 개입 없이 실행할 수 있습니다.
메타데이터 기반 쿼리 최적화:
시스템 사용 패턴을 기반으로 메타데이터 설명을 지속적으로 개선하여 데이터 검색 정확도를 향상시킵니다.
도입효과
구현된 솔루션은 상당한 비즈니스 및 기술 개선을 가져왔습니다.
- 실시간 계산으로 브로커와 가입자의 기여금 관리가 개선되어 운영 지연이 감소했습니다.
- 차별화된 RAG 구현: GenAI에 대한 보다 효율적인 접근 방식
- 전체 데이터셋을 벡터 데이터베이스에 임베딩해야 하는 하이퍼스케일러 기반 솔루션과 달리, Denodo는 메타데이터 중심 접근 방식을 채택해 대규모 벡터 저장소의 필요성을 제거했습니다. 백엔드 시스템에서 필요한 데이터에 대해 LLM이 쿼리를 생성할 수 있도록, 메타데이터만 벡터화하면 되었습니다.
- 이 방식은 연산 부담을 줄이고, 최신 실시간 데이터를 직접 조회함으로써 임베딩 기반의 구식 데이터 사용에 따른 오류와 환각(hallucination)을 최소화했습니다.
- Denodo의 Query RAG는 거버넌스나 실시간 쿼리 정확도를 희생하지 않고도 확장성을 제공해, 미래를 대비한 엔터프라이즈 솔루션으로 차별화되었습니다. 또한, Denodo의 데이터 패브릭은 성능 및 비용 최적화를 자동으로 수행함으로써 Alex Forbes가 성능 및 비용 SLA를 유지하며 GenAI 워크로드를 확장할 수 있도록 했습니다.
- 자연어 쿼리는 데이터 검색을 간소화하여 기술 전문가가 아닌 사용자도 중요한 정보에 액세스할 수 있게 했습니다.
- 사용자 중심의 디자인 경험 구현
- 비즈니스 임원, Power BI 사용자, SQL 사용자 등 다양한 역할에 맞춘 사용자 인터페이스를 제공하여 개인화된 데이터 활용 경험을 가능하게 했습니다.
- 다국어 쿼리 실행 기능을 지원하여 다양한 지역에서 일하는 사용자들도 효과적으로 활용할 수 있도록 했습니다.
Alex Forbes는 Denodo의 데이터 패브릭과 AI SDK를 도입함으로써 데이터 인프라를 성공적으로 현대화하고, 운영 효율성을 개선했으며, 메타데이터 기반의 GenAI 솔루션을 통해 인텔리전스 생산 속도를 가속화했습니다.
자연어 기반의 원활한 쿼리 기능, 실시간 Power BI 통합, 강화된 데이터 거버넌스를 통해 Alex Forbes는 업무 효율성을 새롭게 끌어올리고, 가입자에게 더욱 향상된 경험을 제공할 수 있게 되었습니다.
자세한 내용은 사례 연구를 다운로드하여 확인하세요.
