본문으로 이동
RAG, 들어는 봤는데... 내 서비스엔 어떻게 쓰지? #우아콘2025 #우아한형제들
컨퍼런스

RAG, 들어는 봤는데... 내 서비스엔 어떻게 쓰지? #우아콘2025 #우아한형제들

우아콘 2025 우아한형제들 · YouTube

원문 보기

AI 핵심 요약

교육 운영 정보가 데이터베이스, 구글 드라이브, 구글 캘린더에 흩어져 있어 사용자가 여러 시스템을 직접 조회해야 하는 문제를 해결하기 위해, Spring AI 기반 RAG 서버를 구축했다. MCP 방식은 사용자별 클라이언트 설정과 격리된 데이터 접근, 컨텍스트 윈도우 초과 및 지연 문제를 낳아 서버 내부에서 데이터를 검색하는 구조로 전환했다. 구현은 요구 사항과 RAG 필요성 확인부터 로딩·청킹·임베딩·저장소, 검색·증강·생성, 평가까지 여섯 단계로 진행했으며 Redis 벡터 스토어를 사용했다. 핵심 교훈은 처음부터 완벽한 구성을 목표로 하기보다 익숙한 기술로 빠르게 동작을 검증하고, 검색 품질과 답변을 평가하며 단계적으로 개선하는 것이다.

  • RAG를 도입하기 전에 프롬프트만으로 해결할 수 있는지, 최신 정보나 도메인 전문 지식이 실제로 필요한지 먼저 확인하세요.
  • 청크 크기와 분할 전략은 검색 정확도와 문맥 보존에 영향을 주므로 도메인에 맞춰 조정하고, 출처·시간 같은 메타데이터를 함께 저장하세요.
  • 검색 결과 수를 무조건 늘리면 컨텍스트 윈도우를 빠르게 소모하므로 메타데이터 필터와 유사도 기준으로 검색 범위를 다듬으세요.
  • 검색된 내용만 근거로 답하도록 프롬프트를 명확히 작성하고, 프롬프트와 컨텍스트도 토큰 한도에 포함된다는 점을 고려하세요.
  • 컨텍스트 관련성·답변 충실성·답변 관련성을 평가하고, 파이프라인 요소가 바뀔 때마다 다시 검증하세요.

소개

[세션 설명] 교육팀에서 겪은 데이터 처리의 어려움 속에서 Spring AI 프레임워크를 활용해 어떻게 길을 찾았는지를 공유합니다. MCP부터 RAG까지, '뜬구름' 같던 기술들을 프로덕션 환경의 '무기'로 만들어낸 과정과 그 과정에서 얻은 실용적인 팁들을 공개합니다. [발표자 소개] 김태정(서버 개발자, 교육자)

이 자료가 담긴 로드맵

커뮤니티에서 더 보기

비슷한 학습 자료

컨퍼런스 if kakao

LLM 응답의 신뢰도를 높이기 위한 방법론인 RAG를 효과적으로 구현하기 위해 필요한 구조 및 데이터 가공방식을 소개합니다. #RAG #청킹 #검색 #대화형 인터페이스 검색 모델을 고도화하기 위해 인공지능 기술을 접목한 랭킹 모델과 신규 Feature를 개발하고 있는 Ian입니다. 발표자료 보기 👉 https://speakerdeck.com/kakao/ifkakao24-10 if(kakaoAI)2024에 대한 자세한 정보는 👉 https://if.kakao.com #카카오 #이프카카오 #개발자컨퍼런스 #AI #기술 #개발 #ifkakaoAI2024

AI에이전트 개발 자연어 처리 로드맵 6개에 담김

컨퍼런스 우아콘 2025

[세션 설명] AI 생산성을 높이기 위해 교육이나 해커톤을 다양하게 시도했지만 뚜렷한 성과를 얻기는 어려웠습니다. 이번 세션에서는 이러한 한계를 넘어서기 위해 설계, 개발, 검수, 운영 전반에서 진행한 PoC와 사례를 살펴봅니다. 가이드 중심 접근이 아닌 자연스러운 업무 흐름 속 협업으로 AI 네이티브에 다가가는 방법에 대한 생각을 공유하고, 현재까지의 경험과 앞으로의 방향과 전략을 나누고자 합니다. [발표자 소개] 박경태(서버그룹 기술이사), 신영민(서버 개발자)

AI 코딩

컨퍼런스 우아콘 2025

[세션 설명] RAG·MCP를 활용해 흩어진 업무 지식을 빠르게 검색·활용하고, 조직 간 지식이 자연스럽게 흐르도록 설계했습니다. 그 과정에서 적용한 AI 에이전트 아키텍처, 그리고 도입 과정의 시행착오를 실전 사례로 공유합니다. [발표자 소개] 윤영휘(데이터 과학자), 이범석(데이터 과학자)

AI에이전트 개발

컨퍼런스 우아콘 2025

[세션 설명] 서비스 보안 담당자로서, AI 시대에 보안성 확보를 위해 어떤 고민을 하고 있으며 어떤 해결책을 나름대로 제시하고 있는지를 공유하고자 합니다. 크게 AI 사용 자체에 대한 보안과 AI를 활용한 보안으로 나누어 발표 예정입니다. [발표자 소개] 권현철(Application Secrurity Engineer)

인공지능 기타 보안 로드맵 1개에 담김

컨퍼런스 우아콘 2024

[WOOWACON2024 세션 다시보기] 👉 세션 설명 ㅤ 배달의 민족은 전국 식당들의 메뉴와 주문 뿐만아니라 커머스 대형 셀러들과 연동하여 실시간 배달 서비스를 제공하고 있습니다. 제공하는 서비스에서 발생하는 하루 평균 200억 건의 데이터가 흘러가는 시스템을 안정적으로 구축하고 운영한 사례를 공유드립니다. 1부: 시스템 아키텍처 편 대용량 데이터 처리 시스템을 도입하는 과정에서의 고민과 적용한 기술 그리고 아키텍처를 설명합니다. 2부: 음식 배달, 물건 배달 서비스 구축 편 데이터 정합성과 재처리 복원 등을 고려한 가장 안정적이고 지속가능한 시스템 구조를 만들기 위한 고민과 해결사례를 공유합니다. ㅤ 👉 발표자 소개ㅤ 김민중, 서버 개발자 장재주, 서버 개발자 윤보민, 서버 개발자 김병화, 서버 개발자

백엔드 데이터베이스

컨퍼런스 우아콘 2024

[WOOWACON2024 세션 다시보기] 👉 세션 설명 ㅤ AI 데이터 분석가 '물어보새'는 우아톤 2023을 통해 탄생한 프로덕트로, 구성원의 목소리를 반영하여 Text-to-SQL, Data Discovery 등 다양한 데이터 리터러시 기능을 갖춘 서비스로 발전하였습니다. 지난 6개월 동안 TF 구성원들과 함께 고군분투하며 만든 새로운 AI 서비스 '물어보새'의 개발기를 들려드립니다. ㅤ 👉 발표자 소개ㅤ 성한영, 데이터 과학자 이규철, 데이터 과학자

데이터베이스 인공지능 기타