업무 효율화를 위한 카카오 사내봇 개발기 / if(kakaoAI)2024
if kakao 카카오 · YouTube
AI 핵심 요약
카카오의 여러 서비스에 흩어진 데이터 설명을 찾고 분석하는 데 시간이 오래 걸리는 문제를 해결하기 위해, 테이블 위치와 설명, SQL을 안내하는 0depth 사내봇을 만들었다. 문서를 크롤링·정제해 테이블명·설명·컬럼별 검색 풀을 구성하고, 렉시컬·시맨틱 하이브리드 검색으로 관련 테이블을 찾도록 했다. 이어 질문 유형별 전문 LLM을 파인튜닝하고 LoRA를 적용했으며, 멀티턴 대화에서는 히스토리와 검색 여부를 관리해 속도와 답변 품질을 유지했다. 발표에서 공유한 최종 구성은 검색과 LLM을 결합해 약 87% 정확도를 기록했으며, 문서 품질과 검색 풀 설계, 문맥 관리가 모델 선택만큼 중요하다는 점을 강조했다.
- 문서 수집·정제·생성·검수 단계를 거쳐 테이블명, 설명, 컬럼 정보를 일관된 형식으로 관리한다.
- 정확한 이름 검색과 의미 기반 검색은 강점이 다르므로, 검색 풀을 나누고 하이브리드 검색 결과를 결합한다.
- 질문 유형별로 데이터셋과 프롬프트를 구성하면 하나의 모델이 여러 태스크를 처리할 때 생기는 답변 혼선을 줄일 수 있다.
- LoRA는 태스크별 모델을 운영하면서도 추가 파라미터와 메모리 부담을 낮추는 선택지가 된다.
- 멀티턴에서는 새 주제의 히스토리를 지우고, 후속 질문은 검색 필요 여부에 따라 처리해 불필요한 문맥을 줄인다.
소개
카카오 내에 수많은 데이터에서 원하는 데이터를 빠르게 찾아주는 '0depth 사내봇 개발기'를 공유합니다. #Data #AI #LLM #RAG 카카오 데이터 조직의 Tory입니다. 실용적이고 사용자 친화적인 AI Application을 만드는 것에 관심이 많습니다. 카카오 내에 다양한 AI 프로덕트를 생산하는 Jennie입니다. 발표자료 보기 👉 https://speakerdeck.com/kakao/ifkakao24-27 if(kakaoAI)2024에 대한 자세한 정보는 👉 https://if.kakao.com #카카오 #이프카카오 #개발자컨퍼런스 #AI #기술 #개발 #ifkakaoAI2024
비슷한 학습 자료
컨퍼런스 if kakao
카카오는 어떻게 AI를 일상의 언어로 만들까? | if(kakaoAI)2024
컨퍼런스 if kakao
〰〰〰〰〰〰〰〰〰〰 Kakao AI Native 전략을 소개하며, 이번 if(kakaoAI)2024에서 만난 카카오테크의 이모저모를 담았습니다. 단지 서비스에 AI를 적용하는 것을 넘어 일하는 방식의 변화와 자연스러운 일상의 혁신에 이르기까지, 카카오가 AI Native Company로 나아가는 여정을 앞으로도 함께해 주세요! #AI #AInative #카카오테크 #kakaoAI #ifkakao 〰〰〰〰〰〰〰〰〰〰 카카오 개발자 컨퍼런스 if(kakaoAI)2024에서 카카오 AI 통합 브랜드 Kanana를 비롯해 AI 비전, 모델, 그리고 우리의 일상을 바꿀 새로운 AI 서비스를 처음으로 세상에 공개했습니다. 더 나은 일상을 모두에게 전하는 그날까지, 끊임없이 가깝고, 친근한 기술을 만들어 가겠습니다. 모든 연결을 새롭게 if(kakaoAI)2024 🔗 if(kakaoAI)2024 홈페이지 : https://if.kakao.com/ 🔗 Kakao Tech 홈페이지...
컨퍼런스 if kakao
카카오톡 펑 개발기 / if(kakaoAI)2024
컨퍼런스 if kakao
숏폼, 휘발성 컨텐츠 서비스인 “카카오톡 펑” 개발 과정을 소개합니다. 성능 최적화, 비디오/이미지 데이터 처리 등을 위한 경험을 공유합니다. #카카오톡펑 #개발기 #최적화전략 #실시간데이터 카카오톡 플랫폼 개발하는 Ocean입니다. 카카오톡 플랫폼을 개발하는 Hoodie입니다. 발표자료 보기 👉 https://speakerdeck.com/kakao/ifkakao24-87 if(kakaoAI)2024에 대한 자세한 정보는 👉 https://if.kakao.com #카카오 #이프카카오 #개발자컨퍼런스 #AI #기술 #개발 #ifkakaoAI2024
웹 개발 백엔드
컨퍼런스 if kakao
카카오내비 카플레이/AndroidAuto 개발기 / if(kakaoAI)2024
컨퍼런스 if kakao
카카오내비의 카플레이(CarPlay) 및 안드로이드 오토(Android Auto) 개발 과정을 다룹니다. 각 플랫폼에서의 구조적 고민, HUD 및 클러스터 기능 구현 등의 도전 과제와 개발 경험을 소개합니다. #Carplay #Android-Auto #Navigation 카카오내비 클라이언트앱 개발 담당하는 Jin입니다. 카카오내비 iOS 카플레이 개발 담당하는 David입니다. 카카오내비 Android-Auto 개발 담당하는 Beom입니다. 발표자료 보기 👉 https://speakerdeck.com/kakao/ifkakao24-53 if(kakaoAI)2024에 대한 자세한 정보는 👉 https://if.kakao.com #카카오 #이프카카오 #개발자컨퍼런스 #AI #기술 #개발 #ifkakaoAI2024
모바일 앱 개발
컨퍼런스 if kakao
카카오가 AI 서비스 개발과 운영을 위해 구축한 Kakao AI Platform (KAP)에 대해 소개합니다. KAP은 AI Ops 에 필요한 핵심 기능들(Store, Serving, Training, Agent)을 통합 제공하는 AI 플랫폼입니다. 플랫폼 엔지니어링적 접근으로 KAP을 활용해 AI 기술의 빠른 확산과 업무 생산성을 향상시킨 사례들을 소개합니다. #AI #Platform #Cloud #SaaS #AIOps #ModelOps #Data 카카오에서 AI 플랫폼을 개발하고 있는 Dennis입니다. AI 와 클라우드를 활용한 개발 라이프 사이클 자동화에 관심이 많습니다. 발표자료 보기 👉 https://speakerdeck.com/kakao/ifkakao24-17 if(kakaoAI)2024에 대한 자세한 정보는 👉 https://if.kakao.com #카카오 #이프카카오 #개발자컨퍼런스 #AI #기술 #개발 #ifkakaoAI2024
데브옵스 · 인프라 인공지능 기타
컨퍼런스 if kakao
카카오i를 통한 AIOT 서비스의 사례와 미래 / if(kakaoAI)2024
컨퍼런스 if kakao
모든 요소기술들을 아우를 수 있는 미래 먹거리로써 사물인터넷에 연결되는 스마트 디바이스와 클라우드 플랫폼, 그리고 서비스에 인공지능이 접목된 지능화된 사물인터넷(Artificial Intelligence of Things, AIoT)이 부각되는 시대. 사람과 사물이 경계없이 연결하기 위한 카카오i의 AIOT플랫폼의 구조와 현재, 방향, 고민에 대해 공유합니다. #AIoT 디케이테크인의 AI공통플랫폼팀에서 kakaoi 대화형플랫폼 개발을 하고 있는 Ramsy와 Tristan입니다. 발표자료 보기 👉 https://speakerdeck.com/kakao/ifkakao24-2 if(kakaoAI)2024에 대한 자세한 정보는 👉 https://if.kakao.com #카카오 #이프카카오 #개발자컨퍼런스 #AI #기술 #개발 #ifkakaoAI2024
인공지능 기타 네트워크
컨퍼런스 if kakao
카카오 분석플랫폼 변천사 / if(kakao)2022
컨퍼런스 if kakao
카카오내 수천억건이 넘는 데이터 환경에서 비즈니스 의사 결정을 도울 수 있는 데이터 분석플랫폼을 구축한 사례를 분석 플랫폼의 변화 과정을 통해 공유 드리고자 합니다. #AnalysisPlatform 카카오 데이터 연구실에서 데이터분석플랫폼을 개발하고 있는 jay 라고 합니다. 발표자료 보기 👉https://speakerdeck.com/kakao/ifkakao22-61 if(kakao)2022에 대한 자세한 정보는 👉 https://if.kakao.com if(kakao)2022에 대한 문의는 👉 if@kakaocorp.com #카카오 #이프카카오 #개발자컨퍼런스 #기술 #개발 #ifkakao2022
데이터베이스 인공지능 기타