토스증권 추천과 검색은 어떻게 진화하고 있을까?
황호익 토스 · 토스 기술 블로그
AI 핵심 요약
배치·클러스터 기반 추천은 사용자의 관심과 시장 상황이 빠르게 변하고 콘텐츠가 다양해지면서, 행동 이벤트와 피드백을 반영하는 실시간 개인화 루프로 진화했습니다. 이를 위해 벡터 임베딩의 버전과 인덱스를 함께 교체하고, 실제 요청 패턴에 맞춰 벡터 검색의 지연·처리량·GC를 검증했습니다. 검색은 서비스별로 흩어진 데이터 조회를 공통 RAG 플랫폼으로 묶어 질문 이해, 하이브리드 검색, 리랭킹을 거치게 했으며, 금융 지식 그래프에서는 Beam Search 방식으로 홉별 후보를 제한하고 관련도·시가총액·최신성·제품별 경로 선호도를 반영했습니다. 세 사례가 보여준 교훈은 AI 품질이 모델 성능만이 아니라 데이터 갱신, 후보 선택, 관측과 운영까지 포함한 시스템 설계에 달려 있다는 점입니다.
- 임베딩 모델을 교체할 때는 벡터 생성 버전, 서빙 모델, 검색 인덱스를 함께 관리해야 합니다.
- 벡터 저장소는 검색 지연뿐 아니라 실제 멀티겟 요청의 처리량과 JVM GC 추이까지 검증하세요.
- RAG 검색 품질은 하이브리드 검색, 메타데이터 필터, 사전 관리, 리랭킹을 조합해 개선할 수 있습니다.
- 그래프 탐색에서는 홉마다 후보를 점수화하고 제한해 메모리 사용을 통제하며, Cypher 실행계획과 실제 비용을 확인해야 합니다.
소개
추천, RAG, 그래프 검색을 만들며 마주한 문제와 선택
비슷한 학습 자료
컨퍼런스 DAN 2025
[팀네이버 컨퍼런스 DAN25] F-Solid: RAG에 최적화된 검색아키텍쳐
컨퍼런스 DAN 2025
[팀네이버 컨퍼런스 DAN25] F-Solid: RAG에 최적화된 검색아키텍쳐 AI브리핑을 위해 만들어진 RAG용 검색기 - F-SOLID의 전반적인 아키텍쳐에 대해 설명합니다. 목차 AI를 위한 Unified 검색기 - AI를 위한 범용 Unified 검색기 의 필요성 - 현재 검색 시스템의 한계점 - F-Solid : AI 를 위한 새로운 검색 플랫폼 개발 프로젝트 대규모 자질을 효율적으로 색인하기 위한 파이프라인 - 대량의 문서 자질을 유통하기 위한 파이프라인 구성 - 자질 별 중요도를 고려한 우선순위 큐 - 문서 중요도를 고려한 색인 최적화 다층 Layer 기반 검색 구조 - 다층 Layer 기반 검색 구조 소개 - Base Ranker - Core Ranker - Blender 적합성 개선을 위한 LLM & 뉴럴 활용 - Learned Sparse Retrieval 기법인 SPLADE 적용 - 도메인...
데이터베이스 AI에이전트 개발 로드맵 5개에 담김
컨퍼런스 토스증권 Tech Talk Talk
테크톡톡 2026 | ML Engineer - 토스증권 추천과 검색은 어떻게 진화하고 있을까?
문서 정현규
AI에게 투자정보를 말하게 하기까지
문서 김경윤
토스뱅크가 AI로 보안과 효율도 챙기는 방법
문서 권수영, 한수진