폭증하는 카카오톡 트래픽에 대처하는 방법 (신성열 Tomo)
if kakao 카카오 · YouTube
AI 핵심 요약
경주 지진 때 재난 문자를 받은 기기들이 백그라운드 로그인을 한꺼번에 시도하면서 로그인 요청이 스레드를 점유했고, 기존 메시지 전송까지 실패하는 장애가 발생했습니다. 이를 계기로 활성 스레드 비율에 따라 부하를 감지하고, 부하가 높을 때 백그라운드 로그인과 재시도를 제한하는 자동 대응 시스템을 구축했습니다. 이후 2020년 새해 장애에서는 사용자의 직접 로그인 폭증을 막기 어려웠던 점을 보완하기 위해 요청 종류별 스레드 할당량을 관리하는 교통관리 시스템을 도입했습니다. 이 시스템은 2022년 카타르 월드컵의 급격한 메시지 트래픽에도 특정 요청의 자원 독점을 막았으며, 일부 요청의 실패를 감수해 전체 서비스 장애를 방지하는 것이 핵심 교훈이라고 설명했습니다.
- 활성 스레드 비율처럼 서버 부하를 나타내는 지표를 기준으로 부하 단계를 나누고, 단계별 대응 정책을 미리 정해 두세요.
- 백그라운드 로그인처럼 즉시 처리하지 않아도 되는 요청은 부하가 높을 때 제한해 핵심 기능에 자원을 남길 수 있습니다.
- 요청 종류별로 사용할 스레드 수에 상한을 두면 특정 요청이 자원을 독점해 다른 기능까지 멈추는 상황을 줄일 수 있습니다.
- 일부 요청을 실패시키더라도 전체 서비스 장애로 번지지 않도록 격리와 빠른 실패를 설계하는 것이 중요합니다.
소개
[2023.09.14. 제3회 Kakao Tech Meet 발표] 대한민국의 전 국민에게 사랑받고 있는 카카오톡이 폭증하는 트래픽을 어떻게 처리하고 있는지에 대해 소개드리고자 합니다. 새해가 될 때나 월드컵 같은 이벤트가 있을 때 카카오톡의 트래픽도 폭증하게 되는데요. 저희 파트가 폭증하는 트래픽에 대응하기 위해 어떤 정책을 만들었는지에 대해 말씀드리고자 합니다. 서버를 개발하고 운영하시는 분이라면 변화무쌍한 트래픽과 무관하게 안정적으로 서비스를 유지하고 싶을 것입니다. 트래픽 처리와 서비스의 안정화에 관심이 많으신 분들이 제 발표를 재미있게 들으실 수 있을 듯 합니다. 발표자: 신성열(Tomo) 카카오의 톡메시징파트에서 메시징서버를 운영 및 개발하고 있는 토모라고 합니다. 최근에는 서버를 코틀린으로 이식하는 프로젝트를 진행 중입니다. 개발 뿐 아니라 여행, 독서 등 인생을 재미있게 사는 데 관심이 많습니다. 💬 발표자 인터뷰와 비하인드 보러가기: https://tech....
비슷한 학습 자료
컨퍼런스 if kakao
지도 이미지와 음성을 활용한 어뷰징 방지 전략 (한은경 Sally, 나윤서 Hailey)
컨퍼런스 if kakao
[2023.09.14. 제3회 Kakao Tech Meet 발표] 대량의 비정상 사용자와 봇이 늘어나는 가운데, 카카오는 이에 대응하기 위한 다양한 기술적 대책을 연구하고 있습니다. 특히, AI 기술이 발전하고 접근성이 높아짐에 따라, 악의적인 사용도 점점 더 고도화되고 있습니다. 이러한 배경 속에서, 어뷰징 대응 기술, 전략의 새로운 방향을 모색하고 있으며, 이번 발표에서는 그 일환인 CAPTCHA에 대해 자세히 소개하고자 합니다. 발표자: 한은경(Sally),나윤서(Hailey) 클라우드 메시징셀에서 클라우드 SaaS개발을 담당하고 있는 sally, hailey입니다. 💬 발표자 인터뷰와 비하인드 보러가기: https://tech.kakao.com/2023/09/22/techmeet-dkaptcha/ ✨ 카카오테크 톡채널: http://pf.kakao.com/_qmkxcs ✨ 카카오테크 페이스북: https://www.facebook.com/kakaotech 카카...
보안
컨퍼런스 if kakao
신뢰성 있는 카프카 애플리케이션을 만드는 3가지 방법 (최원영 Cory)
컨퍼런스 if kakao
[2023.09.14. 제3회 Kakao Tech Meet 발표] 이벤트 드리븐 아키텍처와 스트림 데이터 파이프라인을 만들때 고민해야 하는 부분을 다룹니다. 프로듀서/컨슈머와 같은 카프카 애플리케이션의 전달 신뢰도를 높이기 위해서 적용할 수 있는 기술들에 대해 설명하고 내부적으로 적용했던 경험을 공유합니다. 발표자: 최원영(Cory) 안녕하세요! 광고추천팀 cory입니다. 저서로는 『아파치 카프카 애플리케이션 프로그래밍 with 자바』가 있고, 최근에는 『실시간 데이터 파이프라인 아키텍처』를 번역하였습니다. 개발 기술 및 문화 공유에 도움이 되고자 데브원영 블로그와 유튜브를 운영하고 있습니다. 🔥 데브원영 블로그: https://blog.voidmainvoid.net/ 🔥 데브원영 유튜브: https://www.youtube.com/@DevWonYoung 💬 발표자 인터뷰와 비하인드 보러가기: https://tech.kakao.com/2023/09/22/techmeet...
백엔드 데이터베이스
컨퍼런스 if kakao
카카오 T 대리 신규 커넥션 서버 개발기 / if(kakao)2022
컨퍼런스 if kakao
본 세션에서는 카카오 T 대리 서비스에서 소켓 통신을 담당하는 커넥션 서버를 왜 새롭게 개발하게 되었는지 말씀드리고, 새롭게 개발한 커넥션 서버의 설계와 그 구현 방법에 대해서 소개하겠습니다. 그리고 개발 과정에서 마주했던 문제들과 그 해결책들을 공유드리겠습니다. #NetworkSocket 카카오모빌리티에서 카카오 T 대리 서비스의 백엔드 개발을 맡고 있는 제이입니다. 발표자료 보기 👉https://speakerdeck.com/kakao/ifkakao22-34 if(kakao)2022에 대한 자세한 정보는 👉 https://if.kakao.com if(kakao)2022에 대한 문의는 👉 if@kakaocorp.com #카카오 #이프카카오 #개발자컨퍼런스 #기술 #개발 #ifkakao2022
백엔드 네트워크
컨퍼런스 if kakao
쿠버네티스 펀하고, 쿨하고, 섹시하게 / if(kakao)2022
컨퍼런스 if kakao
카카오 엔터프라이즈에서는 cluster api와 다양한 plugin을 이용하여, 개발자들에게 용도에 맞는 k8s를 제공하고 있습니다. 그리고 이 환경을 기반으로 모든 클라우드 배포 환경을 k8s를 이용하여 구현할 수 있었습니다. 카카오 엔터프라이즈에서 사용중인 선언적인 kubernetes as a service 개발 방법 공유! 이것이 선언적인 방법이니까! 음! #Kubernetes #ClusterAPI #Kubernetesasaservice 카카오엔터프라이즈에서 퍼블릭 클라우드 서비스를 개발하고 있는 벅과 곤잘레스 입니다. 카카오아이클라우드 최고에요~! 발표자료 보기 👉https://speakerdeck.com/kakao/ifkakao22-58 if(kakao)2022에 대한 자세한 정보는 👉 https://if.kakao.com if(kakao)2022에 대한 문의는 👉 if@kakaocorp.com #카카오 #이프카카오 #개발자컨퍼런스 #기술 #개발 #i...
데브옵스 · 인프라 클라우드
컨퍼런스 if kakao
10년간 카카오톡 메시지 릴레이를 책임져온 C++ 기반 서버를 JVM 기반 언어(JAVA 및 Kotlin)로 포팅하는 이야기를 합니다. 위 프로젝트를 진행하게 된 계기를 소프트웨어 엔지니어링 측면으로 설명하고, 현재까지 진척 상황에 대한 이야기를 공유합니다. #카카오톡 카카오톡 메시징 시스템을 개발 및 운영하는 시리우스 입니다. 발표자료 보기 👉https://speakerdeck.com/kakao/ifkakao22-28 if(kakao)2022에 대한 자세한 정보는 👉 https://if.kakao.com if(kakao)2022에 대한 문의는 👉 if@kakaocorp.com #카카오 #이프카카오 #개발자컨퍼런스 #기술 #개발 #ifkakao2022
백엔드 프로그래밍 언어
컨퍼런스 if kakao
Preview Backend_1 @if(kakao)2022
컨퍼런스 if kakao
if(kakao)2022 컨퍼런스에서 Backend_1 관련 기술 발표 트랙을 소개합니다. 03:02 1. API 테스트 주도 개발의 시작 by 공진산(ronaldo.c) 카카오 테스트플랫폼셀에서 개발을 하고 있는 호날두입니다. 03:38 2.대량의 광고 데이터 필터 기능 개발기: ES한테 뺨맞고 Citus한테 안긴 썰 by 이동준(genos.lee) 카카오 crux개발2셀에서 서버 개발을 담당하고 있는 제노스라고 합니다. 04:17 3.Docker Swarm 기반 Redis SaaS 플랫폼 구축사례 by 이은미(silvia.lee) 카카오 시스템엔지니어와 레디스 플랫폼 엔지니어를 맡고있는 실비아입니다. 04:48 4. 카카오톡 메시징 시스템 재건축 이야기: C++ 서버를 Java및 Kotlin으로 by 남기영(sirius.nam) 카카오톡 메시징 시스템을 개발 및 운영하는 시리우스 입니다. 05:10 5. 카카오톡 메시징 지표 이상감지 시스템의 개선사례 by 김예솔(so...
백엔드 데이터베이스 소프트웨어 테스트