문서

Kurly만의 MLOps 구축하기 - 쿠브플로우 도입기

구국원 컬리 · 컬리 기술 블로그

AI 핵심 요약

컬리는 JupyterHub, MLflow, Airflow를 따로 운영하면서 도구 간 연결성이 낮고 데이터 사이언티스트가 인프라까지 신경 써야 하는 문제를 해결하기 위해 MLOps 플랫폼을 검토했습니다. AWS SageMaker의 넓은 관리형 기능보다 기존 Kubernetes 활용, 비용, 기술 내재화를 우선해 Kubeflow를 선택했습니다. 사용자 편의를 위해 Elyra가 포함된 JupyterLab 이미지를 제공하고, KFP 아티팩트 저장소를 S3로 바꾸면서 IRSA를 적용했으며, SealedSecrets와 pre-commit 훅으로 자격 증명 관리와 유출 방지를 보완했습니다. 운영 환경에 맞춘 Kubeflow는 기본 설치만으로 충분하지 않으므로, 사용자 경험과 스토리지·권한·보안 설정을 함께 설계해야 한다는 점을 보여줍니다.

MLOps 플랫폼 선택 시 기능 범위뿐 아니라 기존 Kubernetes 인프라, 비용, 벤더 종속성, 기술 내재화 요구를 함께 비교하세요.
Elyra를 활용하면 JupyterLab에서 노트북과 파이썬 파일의 의존성을 설정하고 KFP DAG로 변환할 수 있습니다.
대용량·가변 데이터의 아티팩트 저장소로 S3를 쓰려면 Argo Workflow 설정과 파드의 AWS 자격 증명 구성을 모두 확인해야 합니다.
멀티테넌트 환경에서는 네임스페이스마다 장기 자격 증명을 배포하는 대신 IRSA로 임시 자격 증명을 제공할 수 있습니다.
SealedSecrets로 저장소에 암호화된 Secret을 관리하고, pre-commit 훅으로 평문 Secret의 커밋을 막을 수 있습니다.

소개

쿠브플로우를 도입한 이유와 유용한 팁

비슷한 학습 자료

컨퍼런스 if kakao

카카오뱅크의 MLOps / if(kakao)2022

컨퍼런스 if kakao

데이터과학자가 개발한 ML 모델을 서비스에 빠르게 적용하기 위한 방법을 모색합니다. MLOps를 만들어 가기 위한 툴로 다양한 Open Source가 존재하지만, 각자의 회사에 알맞은 시스템 구성이 필요합니다. 본 세션에서는 MLOps에 대해 고민했던 내용에 대해 말씀드리고, 카카오뱅크만의 MLOps 시스템 구성부터 주요 콤포넌트 그리고 서비스 적용에 대한 경험을 공유합니다. #ML #mlops #아키텍처 #시스템구성 #MLPipeline #라이브러리 #MLModelServing 카카오뱅크 빅데이터분석팀 토비입니다.MLOps 프로젝트를 2년간 진행해 오면서, 다양한 경험을 할 수 있었습니다. 카카오뱅크만에 MLOps 문화를 만들기 위해 노력하고 있고요. ML모델을 서비스에 적용하기 위한 일련의 과정을 자동화하고 있습니다. 그동안 경험 했던, 카카오뱅크의 MLOps를 공유 드리려고 합니다. 많은 관심 부탁드립니다. 감사합니다. 발표자료 보기 👉https://speakerde...

데브옵스 · 인프라 딥러닝 · 머신러닝 로드맵 1개에 담김