JVM warm up / if(kakao)2022
if kakao 카카오 · YouTube
AI 핵심 요약
카카오 T 계정 서버는 쿠버네티스 롤링 배포 직후 수 초 이상의 응답 지연이 발생했지만, CPU·메모리와 데이터베이스에는 여유가 있어 JVM의 초기 실행 상태를 원인 후보로 좁혔습니다. 기존 웜업은 특정 데이터 조회에 한정돼 실제 API 경로를 충분히 준비하지 못했기에, 자주 쓰이는 GET API를 로컬호스트로 호출하고 톰캣 스레드 시작 수도 조정했으며 웜업 완료 후 readiness probe가 통과하도록 바꿨습니다. 이후 트래픽 증가와 함께 지연이 다시 나타나자 JIT의 C1·C2 티어드 컴파일 동작을 살펴보고 웜업 횟수를 테스트해 250회로 늘렸고, 배포 초기 지연이 해소됐습니다. 웜업은 단순히 서버 시작을 늦추는 절차가 아니라 실제 요청 패턴을 재현해 JIT 최적화를 유도해야 하며, 적절한 실행 횟수와 준비 시간을 함께 검증해야 한다는 점을 보여줍니다.
- JVM의 JIT 컴파일은 메서드 실행 빈도에 따라 단계적으로 최적화하므로, 웜업은 실제 서비스에서 자주 쓰는 경로를 충분히 실행해야 합니다.
- 쿠버네티스 readiness probe를 이용해 웜업이 끝나기 전에는 트래픽을 받지 않도록 배포 흐름을 구성할 수 있습니다.
- 웜업 횟수를 늘리면 C1·C2 최적화가 더 진행되지만 시작 시간이 길어지므로 성능 개선과 웜업 비용을 함께 측정해야 합니다.
- 초기 지연의 원인을 찾을 때 CPU·메모리·네트워크뿐 아니라 애플리케이션 구간과 JIT 컴파일 상태도 확인해야 합니다.
소개
Java 어플리케이션은 시작과정에서 성능을 보장하기 위한 warm up 과정이 필요합니다. 이 세션에서는 JVM warm up이 성능에 어떻게 도움이 되는지 그리고 이와 관련된 jit comipler의 내부 절차를 소개합니다. 또한 카카오 T 계정 서버를 배포하는 과정에서 발생한 초기 응답 지연 문제를 어떻게 해결하였는지를 함께 말씀드리려고 합니다. #성능 카카오모빌리티에서 백엔드엔지니어 역할을 맡고 있는 그렉입니다. 저는 주로 Python으로 개발하는 것을 좋아하는데요, 최근에는 Java를 활용한 백엔드 개발과 React를 활용한 프론트엔드 개발에도 관심이 많습니다. 발표자료 보기 👉https://speakerdeck.com/kakao/ifkakao22-35 if(kakao)2022에 대한 자세한 정보는 👉 https://if.kakao.com if(kakao)2022에 대한 문의는 👉 if@kakaocorp.com #카카오 #이프카카오 #개발자컨퍼런스 #기...
비슷한 학습 자료
컨퍼런스 if kakao
GraalVM에 대해 소개하고, Java로 네이티브 애플리케이션을 개발하기 위한 GraalVM의 요구사항들을 설명합니다. GraalVM 도입 전후의 성능을 벤치마크하고 비교합니다. GraalVM으로 초기 성능 웜업 문제를 해결함으로써 얻은 운영상의 이점과 인사이트를 공유합니다. #GraalVM #JAVA #성능최적화 #애플리케이션최적화 카카오톡 톡서버플랫폼에서 백엔드 개발을 하고 있는 Nathan입니다. 발표자료 보기 👉 https://speakerdeck.com/kakao/ifkakao24-84 if(kakaoAI)2024에 대한 자세한 정보는 👉 https://if.kakao.com #카카오 #이프카카오 #개발자컨퍼런스 #AI #기술 #개발 #ifkakaoAI2024
백엔드 프로그래밍 언어
컨퍼런스 if kakao
카카오 T 대리 신규 커넥션 서버 개발기 / if(kakao)2022
컨퍼런스 if kakao
본 세션에서는 카카오 T 대리 서비스에서 소켓 통신을 담당하는 커넥션 서버를 왜 새롭게 개발하게 되었는지 말씀드리고, 새롭게 개발한 커넥션 서버의 설계와 그 구현 방법에 대해서 소개하겠습니다. 그리고 개발 과정에서 마주했던 문제들과 그 해결책들을 공유드리겠습니다. #NetworkSocket 카카오모빌리티에서 카카오 T 대리 서비스의 백엔드 개발을 맡고 있는 제이입니다. 발표자료 보기 👉https://speakerdeck.com/kakao/ifkakao22-34 if(kakao)2022에 대한 자세한 정보는 👉 https://if.kakao.com if(kakao)2022에 대한 문의는 👉 if@kakaocorp.com #카카오 #이프카카오 #개발자컨퍼런스 #기술 #개발 #ifkakao2022
백엔드 네트워크
컨퍼런스 if kakao
쿠버네티스 펀하고, 쿨하고, 섹시하게 / if(kakao)2022
컨퍼런스 if kakao
카카오 엔터프라이즈에서는 cluster api와 다양한 plugin을 이용하여, 개발자들에게 용도에 맞는 k8s를 제공하고 있습니다. 그리고 이 환경을 기반으로 모든 클라우드 배포 환경을 k8s를 이용하여 구현할 수 있었습니다. 카카오 엔터프라이즈에서 사용중인 선언적인 kubernetes as a service 개발 방법 공유! 이것이 선언적인 방법이니까! 음! #Kubernetes #ClusterAPI #Kubernetesasaservice 카카오엔터프라이즈에서 퍼블릭 클라우드 서비스를 개발하고 있는 벅과 곤잘레스 입니다. 카카오아이클라우드 최고에요~! 발표자료 보기 👉https://speakerdeck.com/kakao/ifkakao22-58 if(kakao)2022에 대한 자세한 정보는 👉 https://if.kakao.com if(kakao)2022에 대한 문의는 👉 if@kakaocorp.com #카카오 #이프카카오 #개발자컨퍼런스 #기술 #개발 #i...
데브옵스 · 인프라 클라우드
컨퍼런스 if kakao
이번 세션에는 카카오워크 서버 개발에 주로 사용하는 함수형 언어 엘릭서에 대해 소개해 드리고 여러 어려움에도 불구하고 저희가 엘릭서를 계속 사용하도록 이끌어준, 엘릭서의 실용주의적 특징들을 자세히 소개해드리도록 하겠습니다. #함수형프로그래밍 #DeveloperExperience 카카오엔터프라이즈에서 카카오워크 서버를 개발하는 walter 입니다. 실용주의를 추구하고 암벽을 오릅니다. 카카오엔터프라이즈에서 카카오워크 서버를 개발하는 woogie 입니다. 재미있는 개발을 추구합니다. 발표자료 보기 👉https://speakerdeck.com/kakao/ifkakao22-38 if(kakao)2022에 대한 자세한 정보는 👉 https://if.kakao.com if(kakao)2022에 대한 문의는 👉 if@kakaocorp.com #카카오 #이프카카오 #개발자컨퍼런스 #기술 #개발 #ifkakao2022 #Elixir #함수형프로그래밍 #DeveloperExper...
백엔드 프로그래밍 언어
컨퍼런스 if kakao
Preview Backend_2 @if(kakao)2022
컨퍼런스 if kakao
if(kakao)2022 컨퍼런스에서 Backend_2 관련 기술 발표 트랙을 소개합니다. 01:59 1. 카카오 계정 캐시 전환기 by 김경호(leo.kkh) 카카오 계정에서 서버 개발자로 일하고 있는 레오입니다. 02:12 2. Druid 반정형 데이터 고군분투기 by 한승후(philip.han) 카카오에서 데이터엔지니어로 일하고 있는 필립입니다. 개발이 좋아 이 일을 시작했습니다. 현재는 메니징 업무가 많지만 항상 개발을 꿈꾸는 꿈나무입니다. 02:36 3. WebRTC 기반 게임 리모트 플레이: 실시간 커뮤니케이션 서비스를 위한 WebRTC by 김시은(eddy.games) 카카오게임즈에서 백엔드 개발자로 일하고 있는 에디입니다. 02:52 4. JVM warm up by 이형구(greg.1020) 카카오모빌리티에서 백엔드엔지니어 역할을 맡고 있는 그렉입니다. 저는 주로 Python으로 개발하는 것을 좋아하는데요, 최근에는 Java를 활용한 백엔드 개발과 Reac...
백엔드 데이터베이스 네트워크
컨퍼런스 if kakao
10년간 카카오톡 메시지 릴레이를 책임져온 C++ 기반 서버를 JVM 기반 언어(JAVA 및 Kotlin)로 포팅하는 이야기를 합니다. 위 프로젝트를 진행하게 된 계기를 소프트웨어 엔지니어링 측면으로 설명하고, 현재까지 진척 상황에 대한 이야기를 공유합니다. #카카오톡 카카오톡 메시징 시스템을 개발 및 운영하는 시리우스 입니다. 발표자료 보기 👉https://speakerdeck.com/kakao/ifkakao22-28 if(kakao)2022에 대한 자세한 정보는 👉 https://if.kakao.com if(kakao)2022에 대한 문의는 👉 if@kakaocorp.com #카카오 #이프카카오 #개발자컨퍼런스 #기술 #개발 #ifkakao2022
백엔드 프로그래밍 언어