서버 증설 없이 처리하는 대규모 트래픽
함종현 토스 · 토스 기술 블로그
AI 핵심 요약
라이브 쇼핑 서비스가 피크 시간대에 큰 트래픽을 받으면서 Redis와 데이터베이스, 게이트웨이에 부하가 쌓였고, 단순한 서버 증설만으로는 비용과 병목 문제를 해결하기 어려웠습니다. 공통 데이터는 Local Cache와 Redis Pub/Sub으로 처리하고, 사용자별 데이터는 압축해 Redis 메모리를 아꼈으며, 포인트 지급은 RedLock으로 중복을 막고 Kafka 비동기 적재와 Consumer Throttling으로 DB 부하를 조절했습니다. 중복 API 요청을 클라이언트와 함께 제거하고 여러 API를 하나로 묶어 피크 트래픽 규모를 50% 줄였으며, 선착순 집계에는 Redis Increment와 Local Cache 방식을 상황에 맞게 적용했습니다. 서버·컴포넌트·서비스 지표를 모니터링하고 문제 파악부터 카나리 배포까지 반복하는 것이 증설 전에 성능을 개선하고 장애를 예방하는 핵심이라는 교훈을 얻었습니다.
- 모든 사용자에게 같은 데이터는 웹 서버의 Local Cache에 두고, Redis Pub/Sub으로 캐시 무효화를 전파할 수 있습니다.
- 사용자별 Redis 데이터는 저장 크기를 줄이되, 작은 데이터에 압축을 적용하면 오히려 용량이 늘 수 있습니다.
- 포인트 지급의 중복 방지에는 분산 락을 적용하고, DB 기록은 Kafka Consumer의 Throttling으로 처리량을 조절할 수 있습니다.
- Local Cache에서 선착순 인원을 집계하면 Redis 부하를 줄일 수 있지만, 엄격한 선착순 보장이 필요한지 먼저 확인해야 합니다.
- 성능 변경은 카나리 배포로 검증하고, 서버와 Redis·DB·Kafka 및 서비스 지표를 함께 모니터링해야 합니다.
소개
늘어나는 트래픽을 잘 처리하기 위해 서버 개발자는 어떤 고민을 해야 할까요? “라이브 쇼핑 보기” 서비스에 대규모 트래픽이 들어오면서 겪은 문제와 해결책을 공유드려요.
비슷한 학습 자료
컨퍼런스 DAN 2025
[팀네이버 컨퍼런스 DAN25] What's In Our Infra: 대규모 트래픽을 수용하기까지
컨퍼런스 DAN 2025
[팀네이버 컨퍼런스 DAN25] What's In Our Infra: 대규모 트래픽을 수용하기까지 네이버는 50여 개국에서 유입되는 수백만 규모의 트래픽을 24/7 안정적으로 처리하고 있습니다. 본 세션은 대규모 이벤트 운영 경험을 바탕으로 지연·장애·비용 문제를 해결하기 위한 엔지니어링 사례와 그 과정에서 얻은 교훈을 다룹니다. 아울러 한계를 넘어서기 위한 새로운 도전인 NVELOP(NAVER Velocity Platform) 의 배경과 방향을 소개합니다. 목차 1. Intro - 네이버 글로벌 라이브 스트리밍 플랫폼의 인프라 구성 개요 - 서비스 콘셉트와 챌린지 2. 무중단 서비스를 위한 엔지니어링 사례 - 대규모 트래픽 분산·제어 전략 - 전송 플랫폼 **최적화(Tune-in) **사례 - **Observability **도입 3. NVELOP (NAVER Velocity Platform) 방향 - 기존 플랫폼 한계 ...
데브옵스 · 인프라 네트워크
컨퍼런스 DAN 2025
[팀네이버 컨퍼런스 DAN25] 하루 수백억 건을 처리하는 똑똑한 로그 파이프라인 만들기: 비용·성능·안정성 삼박자 네이버 전사 로그(최대 초당 수백만건, 하루 수백억건의 로그)를 수집/처리하는 로그 파이프라인 Logiss를 소개하고, Logiss에서 겪은 문제점들과 해결책들을 공유합니다. Storm + kafka 환경에서 multi topology를 적용하는 방법과 이를 통해 안정적인 무중단 배포가 가능해진 파이프라인과 지능형 파이프라인의 도입으로 낮시간의 피크 트래픽을 한가한 시간으로 분산시킨 방법, 장애 상황에서 로그의 우선 순위에 따른 차등된 처리 방식, 샘플링 기능으로 저장소를 효율적으로 이용할 수 있게된 방법을 알려드립니다. 목차 1. Logiss 시스템 소개 - Storm, Kafka, Logstash, OpenSearch로 구성된 파이프라인 아키텍처 - 네이버 서비스 전반에서 발생하는 로그를 수집, 하루 수백억 건의 로그를 실시간 처리...
데이터베이스 데브옵스 · 인프라
컨퍼런스 채널데브톡 2025
[Backend] 급증하는 트래픽, 안정적으로 처리하기
문서 김광훈
우리는 어떻게 해외주식 서비스 안정화를 이뤘는가
문서 정진우/문현경