RAG, 들어는 봤는데... 내 서비스엔 어떻게 쓰지? #우아콘2025 #우아한형제들
우아콘 2025 우아한형제들 · YouTube
AI 핵심 요약
교육 운영 정보가 데이터베이스, 구글 드라이브, 구글 캘린더에 흩어져 있어 사용자가 여러 시스템을 직접 조회해야 하는 문제를 해결하기 위해, Spring AI 기반 RAG 서버를 구축했다. MCP 방식은 사용자별 클라이언트 설정과 격리된 데이터 접근, 컨텍스트 윈도우 초과 및 지연 문제를 낳아 서버 내부에서 데이터를 검색하는 구조로 전환했다. 구현은 요구 사항과 RAG 필요성 확인부터 로딩·청킹·임베딩·저장소, 검색·증강·생성, 평가까지 여섯 단계로 진행했으며 Redis 벡터 스토어를 사용했다. 핵심 교훈은 처음부터 완벽한 구성을 목표로 하기보다 익숙한 기술로 빠르게 동작을 검증하고, 검색 품질과 답변을 평가하며 단계적으로 개선하는 것이다.
- RAG를 도입하기 전에 프롬프트만으로 해결할 수 있는지, 최신 정보나 도메인 전문 지식이 실제로 필요한지 먼저 확인하세요.
- 청크 크기와 분할 전략은 검색 정확도와 문맥 보존에 영향을 주므로 도메인에 맞춰 조정하고, 출처·시간 같은 메타데이터를 함께 저장하세요.
- 검색 결과 수를 무조건 늘리면 컨텍스트 윈도우를 빠르게 소모하므로 메타데이터 필터와 유사도 기준으로 검색 범위를 다듬으세요.
- 검색된 내용만 근거로 답하도록 프롬프트를 명확히 작성하고, 프롬프트와 컨텍스트도 토큰 한도에 포함된다는 점을 고려하세요.
- 컨텍스트 관련성·답변 충실성·답변 관련성을 평가하고, 파이프라인 요소가 바뀔 때마다 다시 검증하세요.
소개
[세션 설명] 교육팀에서 겪은 데이터 처리의 어려움 속에서 Spring AI 프레임워크를 활용해 어떻게 길을 찾았는지를 공유합니다. MCP부터 RAG까지, '뜬구름' 같던 기술들을 프로덕션 환경의 '무기'로 만들어낸 과정과 그 과정에서 얻은 실용적인 팁들을 공개합니다. [발표자 소개] 김태정(서버 개발자, 교육자)
이 자료가 담긴 로드맵
- ㅇ 놀라운앵무새 · 구간 3개 · 2026년 6월 목표
- 2026년 AI 설계 기획.프론트엔드.백엔드 학습자12 · 구간 3개 · 2026년 12월 목표
- ai agent 마스터하기 학습자6 · 구간 3개 · 2026년 7월 목표
비슷한 학습 자료
컨퍼런스 if kakao
공공데이터를 활용한 RAG 기술 구현 및 프레임워크 소개 / if(kakaoAI)2024
컨퍼런스 if kakao
LLM 응답의 신뢰도를 높이기 위한 방법론인 RAG를 효과적으로 구현하기 위해 필요한 구조 및 데이터 가공방식을 소개합니다. #RAG #청킹 #검색 #대화형 인터페이스 검색 모델을 고도화하기 위해 인공지능 기술을 접목한 랭킹 모델과 신규 Feature를 개발하고 있는 Ian입니다. 발표자료 보기 👉 https://speakerdeck.com/kakao/ifkakao24-10 if(kakaoAI)2024에 대한 자세한 정보는 👉 https://if.kakao.com #카카오 #이프카카오 #개발자컨퍼런스 #AI #기술 #개발 #ifkakaoAI2024
AI에이전트 개발 자연어 처리 로드맵 6개에 담김
컨퍼런스 우아콘 2025
AI 네이티브 회사를 향한 새로운 항해 #우아콘2025 #우아한형제들
컨퍼런스 우아콘 2025
AI 데이터 분석가 '물어보새', 그다음: 더 넓고 깊은 지식 공유하기 #우아콘2025 #우아한형제들
컨퍼런스 우아콘 2025
AI 시대, 서비스 보안 담당자는 어떤 고민들을 할까? #우아콘2025 #우아한형제들
컨퍼런스 우아콘 2024
[WOOWACON2024 세션 다시보기] 👉 세션 설명 ㅤ 배달의 민족은 전국 식당들의 메뉴와 주문 뿐만아니라 커머스 대형 셀러들과 연동하여 실시간 배달 서비스를 제공하고 있습니다. 제공하는 서비스에서 발생하는 하루 평균 200억 건의 데이터가 흘러가는 시스템을 안정적으로 구축하고 운영한 사례를 공유드립니다. 1부: 시스템 아키텍처 편 대용량 데이터 처리 시스템을 도입하는 과정에서의 고민과 적용한 기술 그리고 아키텍처를 설명합니다. 2부: 음식 배달, 물건 배달 서비스 구축 편 데이터 정합성과 재처리 복원 등을 고려한 가장 안정적이고 지속가능한 시스템 구조를 만들기 위한 고민과 해결사례를 공유합니다. ㅤ 👉 발표자 소개ㅤ 김민중, 서버 개발자 장재주, 서버 개발자 윤보민, 서버 개발자 김병화, 서버 개발자
백엔드 데이터베이스