토스ㅣSLASH 24 - 생산성과 안정성 모두 잡는 마스터키, Canary 배포 개선기
SLASH 토스 · YouTube
AI 핵심 요약
쿠버네티스의 롤링 업데이트는 배포 도중 멈추기 어렵고, 기존 카나리 배포는 요청마다 버전이 달라져 프런트엔드에서 새 화면을 본 사용자가 구버전으로 요청해 페이지 오류를 겪을 수 있었다. 이를 해결하기 위해 Istio와 게이트웨이를 활용해 사용자별 고정 키로 카나리 버전을 정하고, 헤더 기반 라우팅으로 배포 중에도 같은 사용자를 같은 버전에 연결하는 스티키 카나리를 구현했다. 또 자체 배포 관리 시스템에서 로그 오류량과 로그 수집 지연을 감시해 기준을 넘으면 신규 버전의 트래픽을 자동 롤백하도록 했다. 안전한 배포에는 점진적 트래픽 전환뿐 아니라 사용자 요청의 일관성과 빠른 장애 감지가 중요하며, 복잡한 도구를 도입하기보다 필요한 문제를 해결하는 간단한 방식을 먼저 적용할 수 있다는 점을 공유했다.
- 롤링 업데이트는 중간에 멈추기 어려우므로 장애 영향과 복구 시간을 고려해 서비스별 배포 전략을 선택한다.
- Istio VirtualService의 헤더 매치 라우팅은 규칙 순서가 중요하며, 조건 없는 기본 라우트가 앞서면 의도한 라우팅을 덮을 수 있다.
- 사용자별 고정 키를 해싱해 카나리 버전을 결정하면 트래픽 비율을 조정해도 같은 사용자의 요청이 같은 버전으로 유지된다.
- 자동 롤백은 트래픽을 자동으로 단계 전환하는 것보다 장애 감지와 복구에 초점을 맞출 수 있으며, 로그 지연도 배포 중단 조건으로 다룰 수 있다.
소개
생산성을 해치지 않으면서, 배포도 안전하게 할 수는 없을까요? 그 해답이 된 canary 배포 개선기를 공유합니다. 이민우 / DevOps Engineer 한태웅 / SRE 토스 개발자 컨퍼런스 SLASH에 대한 자세한 정보는 👉🏻 https://toss.im/slash-24 컨퍼런스 및 세션에 대한 문의는 👉🏻 slash@toss.im 토스에 합류하고 싶다면 👉🏻 https://toss.im/career/jobs #토스 #개발자컨퍼런스 #SLASH #SLASH24 #devops #sre #canary #토스뱅크 유의 사항 *본 발표자료의 저작권은 연사에 있으며, 저작권자의 사전 서면 동의 없이 자료의 일부 또는 전부를 이용하거나 배포할 수 없습니다. *또한 해당 자료를 복제하여 SLASH 행사 홈페이지를 제외한 온라인상에 게재하는 행위는 연사가 동의한 저작권 및 배포전송권에 위배됩니다. *토스가 다루는 모든 개인정보는 고객에게 동의를 받은 후에 처리되고 있으...
비슷한 학습 자료
컨퍼런스 SLASH
업무를 더 효율적으로, 최대의 성과를 낼 수 있는 법은 무엇일까요? 클러스터 운영부터 서비스 라이프사이클 관리까지, 데브옵스 업무 효율화 사례를 소개합니다. 양석준 / DevOps Engineer 토스 개발자 컨퍼런스 SLASH에 대한 자세한 정보는 👉🏻 https://toss.im/slash-24 컨퍼런스 및 세션에 대한 문의는 👉🏻 slash@toss.im 토스에 합류하고 싶다면 👉🏻 https://toss.im/career/jobs #토스 #개발자컨퍼런스 #SLASH #SLASH24 #devops #cluster 유의 사항 *본 발표자료의 저작권은 연사에 있으며, 저작권자의 사전 서면 동의 없이 자료의 일부 또는 전부를 이용하거나 배포할 수 없습니다. *또한 해당 자료를 복제하여 SLASH 행사 홈페이지를 제외한 온라인상에 게재하는 행위는 연사가 동의한 저작권 및 배포전송권에 위배됩니다. *토스가 다루는 모든 개인정보는 고객에게 동의를 받은 후에 처리...
데브옵스 · 인프라
컨퍼런스 SLASH
트래픽이 쏟아지는 마이데이터 서비스, 과연 어떻게 안정적으로 운영할 수 있을까요? 서비스 운영 과정에서 마주했던 여러 과제들과 기술적인 의사결정을 소개합니다. 신윤재 / Server Developer 토스 개발자 컨퍼런스 SLASH에 대한 자세한 정보는 👉🏻 https://toss.im/slash-24 컨퍼런스 및 세션에 대한 문의는 👉🏻 slash@toss.im 토스에 합류하고 싶다면 👉🏻 https://toss.im/career/jobs #토스 #개발자컨퍼런스 #SLASH #SLASH24 #mydata #backend 유의 사항 *본 발표자료의 저작권은 연사에 있으며, 저작권자의 사전 서면 동의 없이 자료의 일부 또는 전부를 이용하거나 배포할 수 없습니다. *또한 해당 자료를 복제하여 SLASH 행사 홈페이지를 제외한 온라인상에 게재하는 행위는 연사가 동의한 저작권 및 배포전송권에 위배됩니다. *토스가 다루는 모든 개인정보는 고객에게 동의를 받은 후에 처...
백엔드 데이터베이스
컨퍼런스 SLASH
토스뱅크는 왜 신용 모형/전략 솔루션을 자체 구축하게 되었을까요?토스뱅크만의 신용전략 솔루션과 ML 기반의 신용평가모형 훈련 및 서빙 시스템을 소개합니다. 김용휘 / Data Platform Department Leader 유형균 / Machine Learning Engineer 토스 개발자 컨퍼런스 SLASH에 대한 자세한 정보는 👉🏻 https://toss.im/slash-24 컨퍼런스 및 세션에 대한 문의는 👉🏻 slash@toss.im 토스에 합류하고 싶다면 👉🏻 https://toss.im/career/jobs #토스 #개발자컨퍼런스 #SLASH #SLASH24 #dataplatform #machinelearning #토스뱅크 유의 사항 *본 발표자료의 저작권은 연사에 있으며, 저작권자의 사전 서면 동의 없이 자료의 일부 또는 전부를 이용하거나 배포할 수 없습니다. *또한 해당 자료를 복제하여 SLASH 행사 홈페이지를 제외한 온라인상에 게재하는...
데브옵스 · 인프라 딥러닝 · 머신러닝
컨퍼런스 SLASH
토스ㅣSLASH 23 - 유연하고 안전하게 배포 Pipeline 운영하기
컨퍼런스 SLASH
생산성, 안정성, 보안성을 모두 달성하기 위해선 ‘Pipeline’을 어떻게 설정해야 할까요? 다양하고 복잡한 토스뱅크의 배포 ‘Pipeline’을 안전하게 운영하기 위한 노력을 소개합니다. 김동석 / 토스뱅크 DevOps Engineer 발표 자료 👉🏻 https://bit.ly/42pgzIN 토스 개발자 컨퍼런스 SLASH에 대한 자세한 정보는 👉🏻 https://bit.ly/43kW3tO 컨퍼런스 및 세션에 대한 문의는 👉🏻 slash@toss.im 토스에 합류하고 싶다면 👉🏻 https://toss.im/career/jobs #pipeline #helmtemplate #devopsengineer #토스뱅크 #개발자컨퍼런스 #SLASH *본 발표자료의 저작권은 연사에 있으며, 저작권자의 사전 서면 동의 없이 자료의 일부 또는 전부를 이용하거나 배포할 수 없습니다. *또한 해당 자료를 복제하여 SLASH 행사 홈페이지를 제외한 온라인상에 게재하는 행...
데브옵스 · 인프라
컨퍼런스 SLASH
토스ㅣSLASH 23 - 모든 순간을 안전하게, 토스의 서비스 보안 자동화 여정
컨퍼런스 SLASH
애자일한 문화와 우수한 보안, 두 마리 토끼를 모두 잡을 수 있는 방법은 뭘까요? 더 안전하고 지속 가능한 보안을 위한 토스의 ‘서비스 보안 자동화’ 여정을 소개합니다. 표상영 / 토스 Security Researcher 발표 자료 👉🏻 https://bit.ly/3qyp7Qx 토스 개발자 컨퍼런스 SLASH에 대한 자세한 정보는 👉🏻 https://bit.ly/43kW3tO 컨퍼런스 및 세션에 대한 문의는 👉🏻 slash@toss.im 토스에 합류하고 싶다면 👉🏻 https://toss.im/career/jobs #보안자동화 #보안솔루션 #securityresearcher #토스 #개발자컨퍼런스 #SLASH *본 발표자료의 저작권은 연사에 있으며, 저작권자의 사전 서면 동의 없이 자료의 일부 또는 전부를 이용하거나 배포할 수 없습니다. *또한 해당 자료를 복제하여 SLASH 행사 홈페이지를 제외한 온라인상에 게재하는 행위는 연사가 동의한 저작권 및 배...
데브옵스 · 인프라 보안
컨퍼런스 SLASH
토스ㅣSLASH 22 - 어떻게 안정적인 서비스를 빠르게, 자주 출시할 것인가?
컨퍼런스 SLASH
토스페이먼츠는 가맹점이 빠르게 변화하는 시장에서 승리할 수 있도록, 사업자가 필요한 기능을 적시에 안정적으로 제공하는 것을 목표로 합니다. 안정적인 서비스를 빠르게, 자주 출시하기 위한 노력과 그로부터 얻은 러닝을 공유합니다. 하태호 / 토스 DevOps Engineer 발표 자료 👉🏻 https://bit.ly/3xrlgEu 토스 개발자 컨퍼런스 SLASH에 대한 자세한 정보는 👉🏻 https://toss.im/slash-22 컨퍼런스 및 세션에 대한 문의는 👉🏻 slash@toss.im #토스 #개발자컨퍼런스 #SLASH
데브옵스 · 인프라 애자일 · 협업