Kakao AI Platform : AI 서비스의 품질은 높이고, 개발은 빠르게 / if(kakaoAI)2024
if kakao 카카오 · YouTube
AI 핵심 요약
AI 서비스를 만들려면 데이터 관리부터 GPU 학습, 모델 배포와 모니터링까지 여러 환경을 직접 구성해야 하고, 안전 정책과 모델 선택도 개발자의 부담이었다. 카카오는 데이터·모델 관리용 KAP Store, GPU 학습과 파인튜닝을 지원하는 KAP Training, 모델 카탈로그와 엔드포인트를 제공하는 KAP Serving, RAG와 함수 호출 등을 조합하는 KAP Agent를 통합 플랫폼으로 구축했다. 이를 통해 개발자는 공통 인프라를 직접 마련하는 대신 모델과 서비스 개발에 집중할 수 있으며, 카카오톡 AI 기능의 무중단 배포와 반복적인 모델 업데이트에도 활용했다. 플랫폼이 AI 안전 관리와 GPU 자원 효율화까지 맡고, 비개발자도 에이전트를 구성할 수 있게 하면 AI 기술의 확산과 업무 생산성을 함께 높일 수 있다는 점을 보여줬다.
- 데이터와 모델은 출처·버전·사용 이력을 관리하고, 프로젝트 역할 기반 권한으로 접근을 제한한다.
- GPU 인스턴스에서 실험한 학습 코드를 배치 작업으로 실행하고, 유휴 인스턴스는 자동 회수해 자원 낭비를 줄인다.
- 파인튜닝 작업을 복제해 설정을 바꿔가며 반복하고, 평가 데이터와 TensorBoard 지표로 결과를 비교한다.
- 에이전트는 RAG, 메모리, 함수 호출을 모듈 단위로 조합해 필요한 기능만 서비스에 연결할 수 있다.
- 모르는 질문에는 답을 지어내지 않도록 하고, 담당자가 피드백과 지식을 보완하는 운영 흐름을 마련한다.
소개
카카오가 AI 서비스 개발과 운영을 위해 구축한 Kakao AI Platform (KAP)에 대해 소개합니다. KAP은 AI Ops 에 필요한 핵심 기능들(Store, Serving, Training, Agent)을 통합 제공하는 AI 플랫폼입니다. 플랫폼 엔지니어링적 접근으로 KAP을 활용해 AI 기술의 빠른 확산과 업무 생산성을 향상시킨 사례들을 소개합니다. #AI #Platform #Cloud #SaaS #AIOps #ModelOps #Data 카카오에서 AI 플랫폼을 개발하고 있는 Dennis입니다. AI 와 클라우드를 활용한 개발 라이프 사이클 자동화에 관심이 많습니다. 발표자료 보기 👉 https://speakerdeck.com/kakao/ifkakao24-17 if(kakaoAI)2024에 대한 자세한 정보는 👉 https://if.kakao.com #카카오 #이프카카오 #개발자컨퍼런스 #AI #기술 #개발 #ifkakaoAI2024
비슷한 학습 자료
컨퍼런스 if kakao
Kakao AI Native | if(kakaoAI)2024
컨퍼런스 if kakao
카카오는 어떻게 AI를 일상의 언어로 만들까? | if(kakaoAI)2024
컨퍼런스 if kakao
〰〰〰〰〰〰〰〰〰〰 Kakao AI Native 전략을 소개하며, 이번 if(kakaoAI)2024에서 만난 카카오테크의 이모저모를 담았습니다. 단지 서비스에 AI를 적용하는 것을 넘어 일하는 방식의 변화와 자연스러운 일상의 혁신에 이르기까지, 카카오가 AI Native Company로 나아가는 여정을 앞으로도 함께해 주세요! #AI #AInative #카카오테크 #kakaoAI #ifkakao 〰〰〰〰〰〰〰〰〰〰 카카오 개발자 컨퍼런스 if(kakaoAI)2024에서 카카오 AI 통합 브랜드 Kanana를 비롯해 AI 비전, 모델, 그리고 우리의 일상을 바꿀 새로운 AI 서비스를 처음으로 세상에 공개했습니다. 더 나은 일상을 모두에게 전하는 그날까지, 끊임없이 가깝고, 친근한 기술을 만들어 가겠습니다. 모든 연결을 새롭게 if(kakaoAI)2024 🔗 if(kakaoAI)2024 홈페이지 : https://if.kakao.com/ 🔗 Kakao Tech 홈페이지...
컨퍼런스 if kakao
업무 효율화를 위한 카카오 사내봇 개발기 / if(kakaoAI)2024
컨퍼런스 if kakao
카카오 내에 수많은 데이터에서 원하는 데이터를 빠르게 찾아주는 '0depth 사내봇 개발기'를 공유합니다. #Data #AI #LLM #RAG 카카오 데이터 조직의 Tory입니다. 실용적이고 사용자 친화적인 AI Application을 만드는 것에 관심이 많습니다. 카카오 내에 다양한 AI 프로덕트를 생산하는 Jennie입니다. 발표자료 보기 👉 https://speakerdeck.com/kakao/ifkakao24-27 if(kakaoAI)2024에 대한 자세한 정보는 👉 https://if.kakao.com #카카오 #이프카카오 #개발자컨퍼런스 #AI #기술 #개발 #ifkakaoAI2024
AI에이전트 개발
컨퍼런스 if kakao
카카오i를 통한 AIOT 서비스의 사례와 미래 / if(kakaoAI)2024
컨퍼런스 if kakao
모든 요소기술들을 아우를 수 있는 미래 먹거리로써 사물인터넷에 연결되는 스마트 디바이스와 클라우드 플랫폼, 그리고 서비스에 인공지능이 접목된 지능화된 사물인터넷(Artificial Intelligence of Things, AIoT)이 부각되는 시대. 사람과 사물이 경계없이 연결하기 위한 카카오i의 AIOT플랫폼의 구조와 현재, 방향, 고민에 대해 공유합니다. #AIoT 디케이테크인의 AI공통플랫폼팀에서 kakaoi 대화형플랫폼 개발을 하고 있는 Ramsy와 Tristan입니다. 발표자료 보기 👉 https://speakerdeck.com/kakao/ifkakao24-2 if(kakaoAI)2024에 대한 자세한 정보는 👉 https://if.kakao.com #카카오 #이프카카오 #개발자컨퍼런스 #AI #기술 #개발 #ifkakaoAI2024
인공지능 기타 네트워크
컨퍼런스 if kakao
CTO 키노트 / Kakao AI Native | if(kakaoAI)2024 Day2
컨퍼런스 if kakao
if(kakaoAI)2024 CTO 정규돈(gd.re) 키노트 : Kakao AI Native 👇핵심만 골라보기 👇 ⏲️ Time Stamps 00:00 오프닝 01:08 카카오의 AI native 03:20 AI Native 성숙도 4단계 04:00 1단계 탐색 05:49 2단계 적용 06:26 AI Buddy, Code Buddy 22:17 KAP 25:15 AI 포인트 서비스 27:06 3단계 혁신 27:30 4단계 일상 카카오 개발자 컨퍼런스 if(kakaoAI)2024에서 카카오 AI 통합 브랜드 Kanana를 비롯해 AI 비전, 모델, 그리고 우리의 일상을 바꿀 새로운 AI 서비스를 처음으로 세상에 공개했습니다. 더 나은 일상을 모두에게 전하는 그날까지, 끊임없이 가깝고, 친근한 기술을 만들어 가겠습니다. 모든 연결을 새롭게 if(kakaoAI)2024 🔗 if(kakaoAI)2024 홈페이지 : https://if.kakao.com/
AI 코딩 인공지능 기타
컨퍼런스 if kakao
그룹사 CTO 패널톡 / AI Finance | if(kakaoAI)2024 Day3
컨퍼런스 if kakao
if(kakaoAI)2024 그룹사 CTO 패널톡 1부 : AI Finance 👇핵심만 골라보기 👇 🎤모더레이터 - 카카오 CTO 정규돈(gd.re) 💬패널 - 카카오뱅크 CTO 신재홍(conrad.shin) - 카카오페이 CTO 김동용(diane.k) - 카카오엔터프라이즈 CTO 이어형(al.ien) ⏲️ Time Stamps 00:00 오프닝 영상 02:02 카카오뱅크 - AI Ecosystem 07:14 카카오페이 - AI, 신뢰할 수 있는 금융 파트너 11:35 카카오엔터프라이즈 - Beyond the Cloud 17:07 패널톡 카카오 개발자 컨퍼런스 if(kakaoAI)2024에서 카카오 AI 통합 브랜드 Kanana를 비롯해 AI 비전, 모델, 그리고 우리의 일상을 바꿀 새로운 AI 서비스를 처음으로 세상에 공개했습니다. 더 나은 일상을 모두에게 전하는 그날까지, 끊임없이 가깝고, 친근한 기술을 만들어 가겠습니다. 모든 연결을 새롭게 if(kakao...
인공지능 기타