ML Infrastructure with GCP | 2025 당근 GCP 밋업
당근 밋업 당근 · YouTube
AI 핵심 요약
당근은 학습 파이프라인과 데이터 규모가 빠르게 늘어나는 가운데 ML 인프라팀의 운영 부담을 줄이기 위해, 쿠버네티스 기반 Kubeflow에서 TFX와 Protocol Buffers를 활용해 파이프라인의 구조와 설정을 표준화했습니다. 이후 인프라 관리와 오류 대응을 개선하고자 Vertex AI Pipelines로 전환하고, 리소스·시크릿 설정과 스케줄링을 지원하는 내부 SDK 및 ML 메타데이터를 활용한 상세 알람을 구축했습니다. 공통 SDK와 설정을 여러 팀이 재사용하도록 하고 ML 워크로드를 GCP 프로젝트별로 분리해 실험과 운영을 효율화했으며, TPU V5e 예약과 LLM 라우터·프롬프트 스튜디오 구축 사례도 소개했습니다. 파이프라인이 늘어나는 환경에서는 사용자 코드의 일관성뿐 아니라 인프라 오류 구분, 비용·쿼터 가시성, 담당자가 직접 대응할 수 있는 알람 체계까지 함께 설계해야 한다는 점을 보여줍니다.
- TFX 컴포넌트와 Protocol Buffers 설정을 활용하면 파이프라인 구조와 타입을 명확히 하고, 검증·디버깅 부담을 줄일 수 있습니다.
- 공통 파이프라인 설정과 재사용 가능한 SDK를 제공하면 여러 팀이 같은 기반에서 실험하고 운영 기능을 공유할 수 있습니다.
- Vertex AI Pipelines로 옮길 때는 컴포넌트별 리소스·환경 변수·시크릿 설정을 SDK로 감싸 사용자의 반복 작업을 줄일 수 있습니다.
- 알람에 프로젝트·컴포넌트·담당자 정보를 포함하면 온콜에만 의존하지 않고 파이프라인 담당자가 직접 문제를 파악할 수 있습니다.
- ML 워크로드를 GCP 프로젝트별로 분리하면 쿼터 간섭을 줄이고 비용 추적과 운영 가시성을 높일 수 있습니다.
소개
당근마켓은 GCP를 왜, 어떻게 사용하고 있을까요? 인프라 관점에서 GCP를 활용해 본 당근의 이야기를 들려드려요. 🥕 ML Infrastructure with GCP (박준성/ML인프라 팀) 👉 발표 자료 보러가기: https://daangn.notion.site/SRE-c62abc2b6f0347a4ace9ee9cdfc49b6b#26428c3a9f8f8076b2bdd588558146a1 👉 당근 채용공고 보기: https://about.daangn.com/jobs/
비슷한 학습 자료
컨퍼런스 당근 밋업
당근마켓은 GCP를 왜, 어떻게 사용하고 있을까요? 인프라 관점에서 GCP를 활용해 본 당근의 이야기를 들려드려요. 🥕 대규모 이미지 서비스 with Cloud CDN, Cloud Run, Cloud Storage (이태현/공통서비스개발 팀) 👉 발표 자료 보러가기: https://daangn.notion.site/SRE-c62abc2b6f0347a4ace9ee9cdfc49b6b#26428c3a9f8f8076b2bdd588558146a1 👉 당근 채용공고 보기: https://about.daangn.com/jobs/
데브옵스 · 인프라 클라우드
컨퍼런스 당근 밋업
당근마켓은 GCP를 왜, 어떻게 사용하고 있을까요? 인프라 관점에서 GCP를 활용해 본 당근의 이야기를 들려드려요. 🥕 추천 시스템 with DataFlow: 대규모 데이터 파이프라인 구성 (유경윤/ML 데이터플랫폼 팀) 👉 발표 자료 보러가기: https://daangn.notion.site/SRE-c62abc2b6f0347a4ace9ee9cdfc49b6b#26428c3a9f8f8076b2bdd588558146a1 👉 당근 채용공고 보기: https://about.daangn.com/jobs/
딥러닝 · 머신러닝 클라우드
컨퍼런스 당근 밋업
LLM을 프로덕션에 적용하며 배운 것들 | 당근 ML 밋업 1회
컨퍼런스 당근 밋업