![스프링캠프 2025 [Track 1] 1. 난 spring에서 ml 서빙을 해봤어요 (김수원)](https://i.ytimg.com/vi/iQqG6PgAW9w/maxresdefault.jpg)
스프링캠프 2025 [Track 1] 1. 난 spring에서 ml 서빙을 해봤어요 (김수원)
SpringCamp 2025 · YouTube
AI 핵심 요약
백엔드 개발자가 ML을 서비스에 적용하려 할 때 Python의 운영 부담과 별도 추론 엔진의 구축·튜닝 난도가 진입 장벽이 될 수 있다고 설명했다. 대안으로 DJL을 소개하며, 모델을 선택하고 `predict`를 호출하는 방식으로 자바에서 감성 분석 같은 추론을 간단히 구현할 수 있음을 보였다. 더 높은 성능이 필요하면 TensorFlow나 ONNX로 모델 구조와 추론 코드를 직접 제어하고 GPU 메모리, 병렬 처리, 동적 배치 등을 튜닝할 수 있으며, 발표 사례에서는 GPU로 1천만 개 문서를 1초 이내에 추론했다고 밝혔다. 다만 JVM 서빙에도 모델 이해와 하드웨어 최적화가 필요하므로 Python·추론 엔진·JVM을 서비스 조건에 맞게 선택하거나 함께 쓰는 것이 핵심이라고 정리했다.
- DJL은 모델과 추론 과정을 추상화해 자바 개발자가 ML을 빠르게 적용하도록 돕지만, 세밀한 하드웨어 튜닝에는 한계가 있다.
- TensorFlow나 ONNX를 사용하면 모델 구조와 추론 로직을 직접 제어해 GPU 메모리, 병렬 처리, 동적 배치 등을 조정할 수 있다.
- GPU 추론에서는 배치 크기와 메모리 사용 방식이 성능에 영향을 주므로 실제 입력량과 서비스 환경에 맞춰 조정해야 한다.
- Python, 추론 엔진, JVM 중 하나를 정답으로 고르기보다 작업 특성과 운영 역량에 맞춰 조합하는 편이 현실적이다.
소개
🎙️ 김수원 (Sionic AI) 🗓️ 스프링캠프 2025 Track 1 - 1 (2025년 06월 28일) 🧭 스페이스쉐어 삼성 📂 발표자료 : https://github.com/springcamp/presentations/tree/main/SpringCamp-2025-Presentations [🔗 스프링캠프 & KSUG] 스프링캠프 2025 웹 https://springcamp.ksug.org/2025/ 스프링캠프 페이스북 https://www.facebook.com/springcampkr/ 스프링캠프 유튜브 https://www.youtube.com/@springcampkr KSUG 웹 https://www.ksug.org/ KSUG 구글 그룹 https://groups.google.com/g/ksug KSUG 페이스북 https://www.facebook.com/groups/springkorea KSUG 유튜브 https://www.youtube.c...
비슷한 학습 자료
컨퍼런스 SpringCamp 2025
스프링캠프 2025 [Track 1] 2. Talk 1 - 개발자 커뮤니티 (박용권, 김지헌, 이상훈)
컨퍼런스 SpringCamp 2025
🎙️ MC 박용권 (당근마켓) 🎙️ 패널 김지헌 (컬리) 🎙️ 패널 이상훈 (놀유니버스) 🗓️ 스프링캠프 2025 Track 1 - 2 (2025년 06월 28일) 🧭 스페이스쉐어 삼성 📂 발표자료 : 발표 자료가 제공되지 않는 세션입니다. [🔗 스프링캠프 & KSUG] 스프링캠프 2025 웹 https://springcamp.ksug.org/2025/ 스프링캠프 페이스북 https://www.facebook.com/springcampkr/ 스프링캠프 유튜브 https://www.youtube.com/@springcampkr KSUG 웹 https://www.ksug.org/ KSUG 구글 그룹 https://groups.google.com/g/ksug KSUG 페이스북 https://www.facebook.com/groups/springkorea KSUG 유튜브 https://www.youtube.com/@workerksug7409 #KSUG ...
컨퍼런스 SpringCamp 2025
스프링캠프 2025 [Track 1] 3. Talk 2 - 함께 성장하기 (변정훈, 박재성, 이경일)
컨퍼런스 SpringCamp 2025
🎙️ MC 변정훈 (당근마켓) 🎙️ 패널 박재성 (우아한형제들) 🎙️ 패널 이경일 (네이버) 🗓️ 스프링캠프 2025 Track 1 - 3 (2025년 06월 28일) 🧭 스페이스쉐어 삼성 📂 발표자료 : 발표 자료가 제공되지 않는 세션입니다. [🔗 스프링캠프 & KSUG] 스프링캠프 2025 웹 https://springcamp.ksug.org/2025/ 스프링캠프 페이스북 https://www.facebook.com/springcampkr/ 스프링캠프 유튜브 https://www.youtube.com/@springcampkr KSUG 웹 https://www.ksug.org/ KSUG 구글 그룹 https://groups.google.com/g/ksug KSUG 페이스북 https://www.facebook.com/groups/springkorea KSUG 유튜브 https://www.youtube.com/@workerksug7409 #KSU...
컨퍼런스 SpringCamp 2025
스프링캠프 2025 [Track 1] 4. 실전! MSA 트랜잭션 개발 가이드 (김용욱)
컨퍼런스 SpringCamp 2025
🎙️ 김용욱 (삼성 SDS) 🗓️ 스프링캠프 2025 Track 1 - 4 (2025년 06월 28일) 🧭 스페이스쉐어 삼성 📂 발표자료 : https://github.com/springcamp/presentations/tree/main/SpringCamp-2025-Presentations [🔗 스프링캠프 & KSUG] 스프링캠프 2025 웹 https://springcamp.ksug.org/2025/ 스프링캠프 페이스북 https://www.facebook.com/springcampkr/ 스프링캠프 유튜브 https://www.youtube.com/@springcampkr KSUG 웹 https://www.ksug.org/ KSUG 구글 그룹 https://groups.google.com/g/ksug KSUG 페이스북 https://www.facebook.com/groups/springkorea KSUG 유튜브 https://www.youtube.com/...
백엔드
컨퍼런스 SpringCamp 2025
스프링캠프 2025 [Track 1] 5. Talk 3 - 기술 Talk (이동욱, 안영회, 조영호)
컨퍼런스 SpringCamp 2025
🎙️ MC 이동욱 (인프랩) 🎙️ 패널 안영회 (베터코드) 🎙️ 패널 조영호 🗓️ 스프링캠프 2025 Track 1 - 5 (2025년 06월 28일) 🧭 스페이스쉐어 삼성 📂 발표자료 : 발표 자료가 제공되지 않는 세션입니다. [🔗 스프링캠프 & KSUG] 스프링캠프 2025 웹 https://springcamp.ksug.org/2025/ 스프링캠프 페이스북 https://www.facebook.com/springcampkr/ 스프링캠프 유튜브 https://www.youtube.com/@springcampkr KSUG 웹 https://www.ksug.org/ KSUG 구글 그룹 https://groups.google.com/g/ksug KSUG 페이스북 https://www.facebook.com/groups/springkorea KSUG 유튜브 https://www.youtube.com/@workerksug7409 #KSUG #스프링캠...
컨퍼런스 SpringCamp 2025
스프링캠프 2025 [Track 1] 6. 빅뱅 방식으로 최선의 개발하기 (김근수)
컨퍼런스 SpringCamp 2025
🎙️ 김근수 (머니무브) 🗓️ 스프링캠프 2025 Track 1 - 6 (2025년 06월 28일) 🧭 스페이스쉐어 삼성 📂 발표자료 : https://github.com/springcamp/presentations/tree/main/SpringCamp-2025-Presentations [🔗 스프링캠프 & KSUG] 스프링캠프 2025 웹 https://springcamp.ksug.org/2025/ 스프링캠프 페이스북 https://www.facebook.com/springcampkr/ 스프링캠프 유튜브 https://www.youtube.com/@springcampkr KSUG 웹 https://www.ksug.org/ KSUG 구글 그룹 https://groups.google.com/g/ksug KSUG 페이스북 https://www.facebook.com/groups/springkorea KSUG 유튜브 https://www.youtube.com/@w...
개발 · 프로그래밍 기타
컨퍼런스 SpringCamp 2025
스프링캠프 2025 [Track 2] 6. 레일웨이 지향 프로그래밍과 스프링 (이선협)
컨퍼런스 SpringCamp 2025
🎙️ 이선협 (마플코퍼레이션) 🗓️ 스프링캠프 2025 Track 2 - 6 (2025년 06월 28일) 🧭 스페이스쉐어 삼성 📂 발표자료 : https://github.com/springcamp/presentations/tree/main/SpringCamp-2025-Presentations [🔗 스프링캠프 & KSUG] 스프링캠프 2025 웹 https://springcamp.ksug.org/2025/ 스프링캠프 페이스북 https://www.facebook.com/springcampkr/ 스프링캠프 유튜브 https://www.youtube.com/@springcampkr KSUG 웹 https://www.ksug.org/ KSUG 구글 그룹 https://groups.google.com/g/ksug KSUG 페이스북 https://www.facebook.com/groups/springkorea KSUG 유튜브 https://www.youtube.com...
백엔드