‘선물하기 와인 탐험’ LLM 대화형 서비스 개발기 / if(kakaoAI)2024
if kakao 카카오 · YouTube
AI 핵심 요약
와인 상품을 잘 모르거나 매장에서 취향을 설명하기 어려운 사용자가 대화로 선물하기 상품을 찾도록 카카오톡 채널 기반 ‘와인 탐험’을 개발했다. LLM에 대화를 전적으로 맡기지 않고 의도 분석과 여섯 가지 대화 분기로 흐름을 제어했으며, Redis 세션 정보와 RabbitMQ 처리 구조를 활용해 대화 맥락을 관리했다. 상품·와인 지식 데이터는 Elasticsearch 기반 RAG로 검색했으며, 상품 상세 이미지의 OCR과 위키피디아 문서 구조화로 검색 자료를 만들고 조건 누적·갱신 가중치 정책으로 추천을 보완했다. 서비스는 출시됐고, 발표에서는 커머스 대화형 서비스에서 구조화된 흐름과 신뢰할 수 있는 검색 자료가 환각을 줄이고 적절한 상품 추천을 돕는다는 점을 공유했다.
- 대화형 커머스에서는 자유로운 대화보다 추천·정보 제공 같은 비즈니스 액션이 적절한 시점에 실행되도록 흐름을 설계하는 것이 중요하다.
- 의도 분석 결과와 핵심 선호 정보를 세션에 저장하면 여러 턴에 걸쳐 조건을 누적하고 반복 질문을 줄일 수 있다.
- 상품 검색에서는 기존 조건을 유지하되 새로 갱신된 조건에 더 높은 가중치를 주어 사용자의 최신 의도를 반영한다.
- 검색 조건을 만족하는 상품이 없을 때는 조건을 조용히 버리지 말고, 충족하지 못한 항목을 응답에서 설명한다.
- LLM 응답은 입력이 같아도 달라질 수 있으므로, 멀티턴 대화 테스트와 이슈 판별을 자동화해 회귀 검증 부담을 낮춘다.
소개
사용자와의 대화를 바탕으로 선물하기 와인상품을 추천하는 LLM 대화형 서비스 구현 사례를 소개합니다. 선물하기 와인픽업서비스를 더 재미있고 자유롭게 사용할 수 있는 톡서비스. LLM 기반의 선물하기 와인상품 추천 서비스를 개발하고 출시하기까지의 경험을 소개하고 대화흐름 제어 아키텍처와 실제 상품을 찾아내는 RAG 기법을 공유하고자 합니다. #LLM #NLP #RAG #Data 광고커머스 AI 기술 조직에서 ML기반 데이터와 서비스를 만들고 있는 Ethan입니다. 카카오 커머스의 AI 엔지니어 Summer입니다. AI 기술 조직에서 데이터 엔지니어링, 상품 추천 및 탐색 분야의 작업을 진행하고 있는 Daniel입니다. 발표자료 보기 👉 https://speakerdeck.com/kakao/ifkakao24-60 if(kakaoAI)2024에 대한 자세한 정보는 👉 https://if.kakao.com #카카오 #이프카카오 #개발자컨퍼런스 #AI #기술 #개발 #ifkak...
비슷한 학습 자료
컨퍼런스 if kakao
All About LLM: 카카오 AI메이트, 학습부터 서빙까지의 모든 것
컨퍼런스 if kakao
if(kakao)25 선물하기, 카카오맵 등 여러 도메인에 LLM을 성공적으로 학습, 평가 및 서빙한 모든 과정을 공개합니다. #TECH #AI #LLM 카카오에서 언어 모델을 활용하여 고성능 검색 시스템 구축을 시도하고 있는 황우성(charlie.cs)입니다. AI 서비스에 특화된 LLM을 연구/개발하고 있는 양기창(kevin.us)입니다. 피부에 와닿을 수 있는 세상에 실질적인 가치를 줄 수 있는 AI를 만들고자 합니다. AI 서비스 도메인에 특화된 언어모델의 서비스 적합성을 높이기 위해 학습 데이터 전략을 수립하고, 언어모델 성능 평가를 위한 평가 체계를 설계하고 구축을 하고있는 안애림(eileen.u)입니다. 발표자료 보기 📍https://if.kakao.com/2025/session?sessionId=36 📍if.kakao.com if(kakao)25 홈페이지 : https://if.kakao.com/2025 #카카오 #kakao #이프카카오25
딥러닝 · 머신러닝 자연어 처리
컨퍼런스 if kakao
데이터 뚝딱! AI메이트 메타데이터 생성 비법
컨퍼런스 if kakao
if(kakao)25 카카오톡 선물하기와 카카오맵 데이터를 활용해, AI 메이트 쇼핑/로컬 서비스에서 LLM 기반 메타데이터를 생성한 사례를 소개합니다. #TECH #PRODUCT #LLM #Data 카카오에서 LLM을 활용해 기존 서비스의 데이터 생성을 통해 더 나은 사용자 경험을 만들어가고 있는 한송민(harry.kr)입니다. 카카오에서 적용되는 AI 서비스를 위한 백엔드와 데이터 처리 파이프라인을 만들고 있는 한규주(nick.hann)입니다. 카카오의 기존 서비스에 LLM을 활용한 메타데이터를 생성합니다. 현재는 카카오맵 'AI 요약' 및 'AI 맛집 검색'을 위한 데이터 생성에 집중하고 있는이수인(bom.bom)입니다. 발표자료 보기 📍https://if.kakao.com/2025/session?sessionId=33 📍if.kakao.com if(kakao)25 홈페이지 : https://if.kakao.com/2025 #카카오 #kakao #이프카카오25
백엔드 AI에이전트 개발
컨퍼런스 if kakao
사용자 발화에서 응답까지: 그래프 기반 에이전트로 동작하는 AI 서비스
컨퍼런스 if kakao
if(kakao)25 사용자 발화에서 응답까지의 과정을 그래프 기반 에이전트 구조로 풀어낸 카카오의 AI 서비스 구현 방식을 공유합니다. #TECH #PRODUCT #LLM #Agent 카카오에서 LLM을 활용해 여러 도메인의 AI서비스를 개발하고 있는 홍보미(chloe.bm)입니다. AI 서비스의 홍수 속에서 빠지지 않도록 열심히 헤엄치고 있습니다. 카카오에서 LLM을 활용해 여러 도메인의 AI서비스를 개발하고 있는 길민호(ethan.mino)입니다. 스트리밍과 안정적인 LLM 서빙에 관심이 있습니다. 발표자료 보기 📍https://if.kakao.com/2025/session?sessionId=34 📍if.kakao.com if(kakao)25 홈페이지 : https://if.kakao.com/2025 #카카오 #kakao #이프카카오25
AI에이전트 개발
컨퍼런스 if kakao
서비스에 LLM 부스터 달아주기: 요약부터 AI Bot 까지 / if(kakaoAI)2024
컨퍼런스 if kakao
카카오에서 진행했던 일부 LLM 학습 및 서빙 과정 및 결과에 대해 소개합니다. LLM을 요약과 같이 특정 specific task에 적용 하는 것 부터 시작하여, AI Bot 서비스로 발전시키는 과정에서 단계별로 발생하였던 테크니컬한 이슈들을 어떻게 해소하였는지 소개합니다. #LLM #Generative AI #service AI Alignment Joel입니다. LLM 기반 서비스를 만들기 위해 여러가지 일들을 하고 있습니다. 발표자료 보기 👉 https://speakerdeck.com/kakao/ifkakao24-59 if(kakaoAI)2024에 대한 자세한 정보는 👉 https://if.kakao.com #카카오 #이프카카오 #개발자컨퍼런스 #AI #기술 #개발 #ifkakaoAI2024
자연어 처리
컨퍼런스 if kakao
업무 효율화를 위한 카카오 사내봇 개발기 / if(kakaoAI)2024
컨퍼런스 if kakao
카카오 내에 수많은 데이터에서 원하는 데이터를 빠르게 찾아주는 '0depth 사내봇 개발기'를 공유합니다. #Data #AI #LLM #RAG 카카오 데이터 조직의 Tory입니다. 실용적이고 사용자 친화적인 AI Application을 만드는 것에 관심이 많습니다. 카카오 내에 다양한 AI 프로덕트를 생산하는 Jennie입니다. 발표자료 보기 👉 https://speakerdeck.com/kakao/ifkakao24-27 if(kakaoAI)2024에 대한 자세한 정보는 👉 https://if.kakao.com #카카오 #이프카카오 #개발자컨퍼런스 #AI #기술 #개발 #ifkakaoAI2024
AI에이전트 개발
컨퍼런스 if kakao
카카오i를 통한 AIOT 서비스의 사례와 미래 / if(kakaoAI)2024
컨퍼런스 if kakao
모든 요소기술들을 아우를 수 있는 미래 먹거리로써 사물인터넷에 연결되는 스마트 디바이스와 클라우드 플랫폼, 그리고 서비스에 인공지능이 접목된 지능화된 사물인터넷(Artificial Intelligence of Things, AIoT)이 부각되는 시대. 사람과 사물이 경계없이 연결하기 위한 카카오i의 AIOT플랫폼의 구조와 현재, 방향, 고민에 대해 공유합니다. #AIoT 디케이테크인의 AI공통플랫폼팀에서 kakaoi 대화형플랫폼 개발을 하고 있는 Ramsy와 Tristan입니다. 발표자료 보기 👉 https://speakerdeck.com/kakao/ifkakao24-2 if(kakaoAI)2024에 대한 자세한 정보는 👉 https://if.kakao.com #카카오 #이프카카오 #개발자컨퍼런스 #AI #기술 #개발 #ifkakaoAI2024
인공지능 기타 네트워크