카카오페이 MLOps 적용기 (feat. AWS) / if(kakao)2022
if kakao 카카오 · YouTube
AI 핵심 요약
모델과 피처가 늘면서 서빙 파이프라인을 반복 개발해야 했고, 피처 재사용과 운영 관리도 어려워져 카카오페이는 AWS 기반 MLOps 플랫폼을 구축했습니다. 학습에는 Step Functions와 SageMaker Model Registry를, 피처 관리에는 Feast와 S3·Athena·Redis를 사용했으며, 서빙은 ONNX Runtime을 중심으로 모델 프록시와 추론 서비스를 분리해 구성했습니다. 그 결과 새 모델 적용에 필요한 개발 리소스를 50% 줄이고, 5년 운영을 가정한 비용 비교에서 시스템 운영 비용을 30% 절감했다고 발표했습니다. 다만 MLOps의 범위와 기술 선택은 조직의 운영 여건에 맞춰야 하며, 온프레미스와 클라우드를 연결할 때는 네트워크와 데이터 관리 조건을 함께 고려해야 한다고 강조했습니다.
- 학습 워크플로우는 AWS Step Functions와 SageMaker SDK로 구성하고, 단계별 인스턴스와 주기를 설정할 수 있습니다.
- Feature Store는 오프라인·온라인 저장소의 접근 패턴과 비용을 따로 고려해 선택해야 합니다.
- 오픈소스 Feast에 필요한 Athena 연동 기능을 직접 추가해 환경에 맞게 확장했습니다.
- 모델 프록시와 추론 서비스를 분리하면 피처 조회와 모델 실행의 책임을 나누고 변경 영향을 줄일 수 있습니다.
- 하이브리드 환경에서는 네트워크·사내 정책·데이터 관리 조건을 먼저 확인하고 조직에 맞는 적용 범위를 정해야 합니다.
소개
카카오페이에서 MLOps 시스템을 구축하여 적용한 사례를 공유합니다. MLOps의 핵심 구성요소인 모델 학습 파이프라인, Feature Store, 모델 Serving 의 구축과정을 상세하게 설명합니다. #MLOps #모델학습파이프라인 #FeatureStore #모델Serving #AWS 카카오페이 MLOps TF 웨더입니다. 대용량 데이터 처리를 위한 서버 엔지니어링에 관심이 많습니다. 카카오페이 MLOps TF 레이첼입니다. 머신러닝 모델 개발 및 서빙 환경 개발/구축을 하고 있습니다. 카카오페이 MLOps TF 옐로입니다. 클라우드 기반의 데이터 엔지니어링에 관심이 많습니다. 발표자료 보기 👉https://speakerdeck.com/kakao/ifkakao22-67 if(kakao)2022에 대한 자세한 정보는 👉 https://if.kakao.com if(kakao)2022에 대한 문의는 👉 if@kakaocorp.com #카카오 #이프카카오 #개발자컨...
비슷한 학습 자료
컨퍼런스 if kakao
카카오클라우드 MLOps 활용 방안 소개 / if(kakaoAI)2024
컨퍼런스 if kakao
카카오클라우드 위에서 AI를 위한 데이터 수집부터 모델 개발, 학습, 튜닝, 서빙까지의 파이프라인 구성과 활용 방안에 대해 소개합니다. #빅데이터 #MLops #AI #Cloud 카카오클라우드에서 Data 및 Machine Learning 플랫폼 PM을 담당하고 있는 Evan입니다. 발표자료 보기 👉 https://speakerdeck.com/kakao/ifkakao24-22 if(kakaoAI)2024에 대한 자세한 정보는 👉 https://if.kakao.com #카카오 #이프카카오 #개발자컨퍼런스 #AI #기술 #개발 #ifkakaoAI2024
데브옵스 · 인프라 딥러닝 · 머신러닝 클라우드
컨퍼런스 if kakao
LLM 서빙하기 / if(kakaoAI)2024
컨퍼런스 if kakao
LLM 서빙 프레임워크 도입 경험과 프레임워크 성능 최적화 기술을 쉽게 설명합니다. #LLM 서빙 프레임워크 카카오페이 선행기술개발TF팀에서 AI 서비스를 개발하고 있는 Ari입니다. 카카오페이 선행기술개발TF팀에서 금융관련 모델을 개발하고 있는 Kyou입니다. 발표자료 보기 👉 https://speakerdeck.com/kakao/ifkakao24-20 if(kakaoAI)2024에 대한 자세한 정보는 👉 https://if.kakao.com #카카오 #이프카카오 #개발자컨퍼런스 #AI #기술 #개발 #ifkakaoAI2024
데브옵스 · 인프라 딥러닝 · 머신러닝
컨퍼런스 if kakao
광고추천 조직의 Ai MLOps - Yggdrasil 시스템 중 Feature Store 플랫폼에 대해서 소개합니다. 데이터 사이언티스트 친화적으로 구축하여 학습 및 추론 요구사항을 만족시키고, 효율적이며 일관적인 피처 관리를 달성한 점을 중점적으로 다룹니다. 특히, raw data로부터 feature를 추출하여 적절히 가공하고, 페타바이트 이상의 조단위 건의 대용량 데이터를 처리하는 내용을 공유하고자 합니다. #AI #FeatureStore #MLOps #Data 광고추천개발에서 데이터 엔지니어링을 하고 있는 Ben입니다. 광고추천 조직의 Eli입니다. MLOps 의 Feature, 모델을 기술적으로 다루는 업무를 하고 있습니다. 발표자료 보기 👉 https://speakerdeck.com/kakao/ifkakao24-19 if(kakaoAI)2024에 대한 자세한 정보는 👉 https://if.kakao.com #카카오 #이프카카오 #개발자컨퍼런스 #AI #기술...
데이터베이스 딥러닝 · 머신러닝
컨퍼런스 if kakao
카카오뱅크의 MLOps / if(kakao)2022
컨퍼런스 if kakao
데이터과학자가 개발한 ML 모델을 서비스에 빠르게 적용하기 위한 방법을 모색합니다. MLOps를 만들어 가기 위한 툴로 다양한 Open Source가 존재하지만, 각자의 회사에 알맞은 시스템 구성이 필요합니다. 본 세션에서는 MLOps에 대해 고민했던 내용에 대해 말씀드리고, 카카오뱅크만의 MLOps 시스템 구성부터 주요 콤포넌트 그리고 서비스 적용에 대한 경험을 공유합니다. #ML #mlops #아키텍처 #시스템구성 #MLPipeline #라이브러리 #MLModelServing 카카오뱅크 빅데이터분석팀 토비입니다.MLOps 프로젝트를 2년간 진행해 오면서, 다양한 경험을 할 수 있었습니다. 카카오뱅크만에 MLOps 문화를 만들기 위해 노력하고 있고요. ML모델을 서비스에 적용하기 위한 일련의 과정을 자동화하고 있습니다. 그동안 경험 했던, 카카오뱅크의 MLOps를 공유 드리려고 합니다. 많은 관심 부탁드립니다. 감사합니다. 발표자료 보기 👉https://speakerde...
데브옵스 · 인프라 딥러닝 · 머신러닝 로드맵 1개에 담김
컨퍼런스 if kakao
카카오페이의 프론트엔드 서비스가 제공되는 환경에 대해 이야기 하고, 프론트엔드 서비스가 제공되는 환경의 관점에서 개발자 경험과 사용자 경험을 개선하기 위한 카카오페이 프론트엔드 팀의 작업을 사례를 통해 이야기합니다. #UX 카카오페이 FE인프라TF TF장 에릭입니다. 카카오페이 FE 서비스의 근간을 이루는 다양한 환경에 대한 고민을 하고 있습니다. 발표자료 보기 👉https://speakerdeck.com/kakao/ifkakao22-83 if(kakao)2022에 대한 자세한 정보는 👉 https://if.kakao.com if(kakao)2022에 대한 문의는 👉 if@kakaocorp.com #카카오 #이프카카오 #개발자컨퍼런스 #기술 #개발 #ifkakao2022
웹 개발 프론트엔드
컨퍼런스 if kakao
카카오페이 앱 리빌딩 스토리 / if(kakao)2022
컨퍼런스 if kakao
카카오페이앱을 리빌딩하면서 겪은 과정들을 소개해 드리려고 합니다. #Android 카카오페이 안드로이드 주식 서비스 업무를 맡고 있는 스카일러입니다. 카카오페이 안드로이드 계정 서비스 업무를 맡고 있는 에디입니다. 발표자료 보기 👉https://speakerdeck.com/kakao/ifkakao22-91 if(kakao)2022에 대한 자세한 정보는 👉 https://if.kakao.com if(kakao)2022에 대한 문의는 👉 if@kakaocorp.com #카카오 #이프카카오 #개발자컨퍼런스 #기술 #개발 #ifkakao2022
모바일 앱 개발