데이터 뚝딱! AI메이트 메타데이터 생성 비법
if kakao 카카오 · YouTube
AI 핵심 요약
카카오톡 선물하기와 카카오맵의 원천 데이터만으로는 사용자의 상황·목적이 담긴 자연어 질의에 대응하기 어려워, LLM이 추출한 맥락을 상품·장소 메타데이터로 확장했다. 프롬프트와 JSON 스키마를 고정해 대량 생성하고, 이미지 정보는 OCR과 VLM으로 보완했으며, 일관된 문구가 필요한 작업에는 합성 데이터 기반 SFT를 적용했다. 품질 개선에는 정답셋의 F1 평가, 사람 평가와 정렬한 LLM 평가자, 자동 프롬프트 최적화를 활용했고, 서비스 반영 전에는 리플렉션으로 오류를 수정했다. 요청과 응답을 트레이스 ID로 연결해 품질·비용을 모니터링한 결과, 리플렉션으로 데이터의 약 8%를 수정했으며 자동 최적화로 추천 질문 고도화 작업 시간을 15시간에서 7시간으로 줄였다.
- 사용자 질의에서 자주 등장하는 맥락을 분석해 카탈로그 필드로 옮기면 검색과 추천의 의미적 연결을 강화할 수 있다.
- 프롬프트는 지시문·JSON 출력 스키마·가변 원천 데이터로 분리하고, 반복되는 고정 부분에는 프리픽스 캐싱을 적용한다.
- 이미지 속 정보 추출은 OCR과 VLM을 용도에 맞게 조합하고, 텍스트 추출만으로 부족한 사례를 따로 점검한다.
- 정답이 있는 필드는 정답셋과 F1 점수로 평가하고, 정답이 없는 생성물은 사람 평가와 일치도를 검증한 LLM 평가자로 다룬다.
- 생성 결과의 근거를 먼저 평가하게 하고, 요청·응답·모델 파라미터를 트레이스 ID로 연결하면 오류 분석과 재현이 쉬워진다.
소개
if(kakao)25 카카오톡 선물하기와 카카오맵 데이터를 활용해, AI 메이트 쇼핑/로컬 서비스에서 LLM 기반 메타데이터를 생성한 사례를 소개합니다. #TECH #PRODUCT #LLM #Data 카카오에서 LLM을 활용해 기존 서비스의 데이터 생성을 통해 더 나은 사용자 경험을 만들어가고 있는 한송민(harry.kr)입니다. 카카오에서 적용되는 AI 서비스를 위한 백엔드와 데이터 처리 파이프라인을 만들고 있는 한규주(nick.hann)입니다. 카카오의 기존 서비스에 LLM을 활용한 메타데이터를 생성합니다. 현재는 카카오맵 'AI 요약' 및 'AI 맛집 검색'을 위한 데이터 생성에 집중하고 있는이수인(bom.bom)입니다. 발표자료 보기 📍https://if.kakao.com/2025/session?sessionId=33 📍if.kakao.com if(kakao)25 홈페이지 : https://if.kakao.com/2025 #카카오 #kakao #이프카카오25
비슷한 학습 자료
컨퍼런스 if kakao
데이터는 없지만 LLM은 학습하고 싶어 - Code, Math 데이터 개발기
컨퍼런스 if kakao
if(kakao)25 효과적인 모델 학습을 위한 자체 데이터 수집 파이프라인 구축 경험을 공유합니다. #TECH #AI #LLM 카카오에서 대용량 데이터 처리와 효율적인 언어 모델 학습 방법을개발하는 정두해(wavy.jung)입니다. 카카오에서 LLM 학습에 필요한 고품질 데이터 수집 파이프라인과 효과적인 사전 학습 방법을 개발하는 김나연(lana.ny)입니다. 발표자료 보기 📍https://if.kakao.com/2025/session?sessionId=48 📍if.kakao.com if(kakao)25 홈페이지 : https://if.kakao.com/2025 #카카오 #kakao #이프카카오25
딥러닝 · 머신러닝 자연어 처리
컨퍼런스 if kakao
All About LLM: 카카오 AI메이트, 학습부터 서빙까지의 모든 것
컨퍼런스 if kakao
if(kakao)25 선물하기, 카카오맵 등 여러 도메인에 LLM을 성공적으로 학습, 평가 및 서빙한 모든 과정을 공개합니다. #TECH #AI #LLM 카카오에서 언어 모델을 활용하여 고성능 검색 시스템 구축을 시도하고 있는 황우성(charlie.cs)입니다. AI 서비스에 특화된 LLM을 연구/개발하고 있는 양기창(kevin.us)입니다. 피부에 와닿을 수 있는 세상에 실질적인 가치를 줄 수 있는 AI를 만들고자 합니다. AI 서비스 도메인에 특화된 언어모델의 서비스 적합성을 높이기 위해 학습 데이터 전략을 수립하고, 언어모델 성능 평가를 위한 평가 체계를 설계하고 구축을 하고있는 안애림(eileen.u)입니다. 발표자료 보기 📍https://if.kakao.com/2025/session?sessionId=36 📍if.kakao.com if(kakao)25 홈페이지 : https://if.kakao.com/2025 #카카오 #kakao #이프카카오25
딥러닝 · 머신러닝 자연어 처리
컨퍼런스 if kakao
사용자 발화에서 응답까지: 그래프 기반 에이전트로 동작하는 AI 서비스
컨퍼런스 if kakao
if(kakao)25 사용자 발화에서 응답까지의 과정을 그래프 기반 에이전트 구조로 풀어낸 카카오의 AI 서비스 구현 방식을 공유합니다. #TECH #PRODUCT #LLM #Agent 카카오에서 LLM을 활용해 여러 도메인의 AI서비스를 개발하고 있는 홍보미(chloe.bm)입니다. AI 서비스의 홍수 속에서 빠지지 않도록 열심히 헤엄치고 있습니다. 카카오에서 LLM을 활용해 여러 도메인의 AI서비스를 개발하고 있는 길민호(ethan.mino)입니다. 스트리밍과 안정적인 LLM 서빙에 관심이 있습니다. 발표자료 보기 📍https://if.kakao.com/2025/session?sessionId=34 📍if.kakao.com if(kakao)25 홈페이지 : https://if.kakao.com/2025 #카카오 #kakao #이프카카오25
AI에이전트 개발
컨퍼런스 if kakao
카카오 데이터와 AI로 완성하는 광고 최적화
컨퍼런스 if kakao
if(kakao)25 대규모 유저 행동 데이터와 광고 성과를 분석하여, 단순 리포팅을 넘어 구체적인 데이터 인사이트와 최적화 액션을 생성하는 AI Agent인 AdOpt의 설계 및 구현 사례를 소개합니다. #TECH #PRODUCT #General AI 기술로 광고주를 위한 더 나은 서비스를 고민하고 있는 AdOpt스쿼드 PO 전석원 (harvey)입니다. 이전에는 광고추천랭킹팀에서 AI/ML 모델과 자동입찰모델 개발을 담당했습니다. 카카오에서 여러 기술, 특히나 LLM의 활용에 관심이 많은 김민수(daniel.tomi)입니다. 발표자료 보기 📍 https://if.kakao.com/2025/session?sessionId=20 📍 if.kakao.com if(kakao)25 홈페이지 : https://if.kakao.com/2025 #카카오 #kakao #이프카카오25
AI에이전트 개발 프로덕트 지표 · 실험
컨퍼런스 if kakao
LLM을 활용한 유저 프로파일링과 개인화 추천
컨퍼런스 if kakao
if(kakao)25 검색, 클릭 등의 행태정보를 기반으로 만드는 다양한 유저 프로파일링, 추천 프로덕트들을 소개합니다. How보다는 What을 소개하는 발표입니다. 전통적인 방법은 물론 LLM을 활용하여 개발하는 과정을 간략하게 소개합니다. #TECH #PRODUCT #AI #Data ML을 통해 문제해결하기를 좋아하는 데이터사이언티스트입니다. 요즘은 추천, LLM에 관심이 많습니다. 데이터팀에서 전사지원을 하고 있는 송민수(mason.9506)입니다. 발표자료 보기 📍 https://if.kakao.com/2025/session?sessionId=21 📍 if.kakao.com if(kakao)25 홈페이지 : https://if.kakao.com/2025 #카카오 #kakao #이프카카오25
AI에이전트 개발 딥러닝 · 머신러닝 자연어 처리
컨퍼런스 if kakao
업무 효율화를 위한 카카오 사내봇 개발기 / if(kakaoAI)2024
컨퍼런스 if kakao
카카오 내에 수많은 데이터에서 원하는 데이터를 빠르게 찾아주는 '0depth 사내봇 개발기'를 공유합니다. #Data #AI #LLM #RAG 카카오 데이터 조직의 Tory입니다. 실용적이고 사용자 친화적인 AI Application을 만드는 것에 관심이 많습니다. 카카오 내에 다양한 AI 프로덕트를 생산하는 Jennie입니다. 발표자료 보기 👉 https://speakerdeck.com/kakao/ifkakao24-27 if(kakaoAI)2024에 대한 자세한 정보는 👉 https://if.kakao.com #카카오 #이프카카오 #개발자컨퍼런스 #AI #기술 #개발 #ifkakaoAI2024
AI에이전트 개발