토스ㅣSLASH 22 - 물 흐르듯 자연스러운 ML 서비스 만들기
SLASH 토스 · YouTube
AI 핵심 요약
토스는 빠르게 바뀌는 제품 요구에 대응하면서 금융 서비스 수준의 안정성을 갖춘 머신러닝 서비스를 만들기 위해, 기존 인프라와 중복되는 전용 플랫폼을 무조건 도입하지 않기로 했습니다. 모델 메타데이터 관리와 아티팩트 저장에 집중하고, ONNX Runtime·PyTorch 등을 활용하는 서빙 라이브러리를 자체 래핑해 프레임워크 의존성을 낮췄습니다. 모델 코드를 표준화해 ONNX 변환을 쉽게 하고, 같은 모델을 JVM과 Python 환경에서 서빙하거나 배치·GPU 환경에 맞게 활용할 수 있도록 했습니다. 핵심 교훈은 머신러닝만을 위한 별도 운영 체계를 만들기보다 기존 서비스의 배포·관측·보안 체계에 자연스럽게 통합하는 것이며, 이를 위해서는 모델링 코드와 조직의 운영 역량도 함께 갖춰야 한다는 점입니다.
- 새 프레임워크를 도입하기 전에 이미 갖춘 쿠버네티스·배포 인프라와 기능이 겹치는지, 실제로 필요한 구성요소가 무엇인지 먼저 따져보세요.
- 오픈소스는 도입 시점뿐 아니라 사용 기간과 교체·제거 계획까지 세워야 운영 부담과 종속성을 관리할 수 있습니다.
- 모델 코드를 표준적이고 구조적으로 작성하면 ONNX 변환과 서빙 과정에서 발생하는 예외를 줄일 수 있습니다.
- 모델 실험부터 서비스 배포까지 로깅, 모니터링, 보안, 점진 배포 등 기존 서비스의 운영 기준을 적용하세요.
소개
회사마다 다른 AI, ML 적용 방식. 토스에서는 어떻게 사용하고 있을까요? 대규모 서비스에 최적화된 기술 스택과 인프라를 기반으로 머신러닝 서비스를 만들고 배포하는 과정을 공유합니다. 고석현 / 토스 Machine Learning Engineer 발표 자료 👉🏻 https://bit.ly/3xoIift 토스 개발자 컨퍼런스 SLASH에 대한 자세한 정보는 👉🏻 https://toss.im/slash-22 컨퍼런스 및 세션에 대한 문의는 👉🏻 slash@toss.im #토스 #개발자컨퍼런스 #SLASH
비슷한 학습 자료
컨퍼런스 SLASH
늘 고민되는 세그먼트 타겟팅, 더 효율적이고, 더 효과적으로 할 수 없을까요? ML 기반 자동 타겟팅으로 사용자 만족과 마케팅 효율 모두를 잡은 과정을 소개합니다. 김하영 / Data Scientist 토스 개발자 컨퍼런스 SLASH에 대한 자세한 정보는 👉🏻 https://toss.im/slash-24 컨퍼런스 및 세션에 대한 문의는 👉🏻 slash@toss.im 토스에 합류하고 싶다면 👉🏻 https://toss.im/career/jobs #토스 #개발자컨퍼런스 #SLASH #SLASH24 #datascience #machinelearning 유의 사항 *본 발표자료의 저작권은 연사에 있으며, 저작권자의 사전 서면 동의 없이 자료의 일부 또는 전부를 이용하거나 배포할 수 없습니다. *또한 해당 자료를 복제하여 SLASH 행사 홈페이지를 제외한 온라인상에 게재하는 행위는 연사가 동의한 저작권 및 배포전송권에 위배됩니다. *토스가 다루는 모든 개인정보는 고객...
딥러닝 · 머신러닝 프로덕트 지표 · 실험
컨퍼런스 SLASH
토스뱅크는 왜 신용 모형/전략 솔루션을 자체 구축하게 되었을까요?토스뱅크만의 신용전략 솔루션과 ML 기반의 신용평가모형 훈련 및 서빙 시스템을 소개합니다. 김용휘 / Data Platform Department Leader 유형균 / Machine Learning Engineer 토스 개발자 컨퍼런스 SLASH에 대한 자세한 정보는 👉🏻 https://toss.im/slash-24 컨퍼런스 및 세션에 대한 문의는 👉🏻 slash@toss.im 토스에 합류하고 싶다면 👉🏻 https://toss.im/career/jobs #토스 #개발자컨퍼런스 #SLASH #SLASH24 #dataplatform #machinelearning #토스뱅크 유의 사항 *본 발표자료의 저작권은 연사에 있으며, 저작권자의 사전 서면 동의 없이 자료의 일부 또는 전부를 이용하거나 배포할 수 없습니다. *또한 해당 자료를 복제하여 SLASH 행사 홈페이지를 제외한 온라인상에 게재하는...
데브옵스 · 인프라 딥러닝 · 머신러닝
컨퍼런스 SLASH
토스ㅣSLASH 24 - ML 플랫폼으로 개발 속도와 안정성 높이기
컨퍼런스 SLASH
머신러닝 모델을 빠르고 안정적으로 개발할 수 있는 방법은 없을까요? 토스에서 ML 플랫폼을 통해 어떻게 이 문제를 해결하고 있는지 소개합니다. 김찬주 / ML Chapter Lead 토스 개발자 컨퍼런스 SLASH에 대한 자세한 정보는 👉🏻 https://toss.im/slash-24 컨퍼런스 및 세션에 대한 문의는 👉🏻 slash@toss.im 토스에 합류하고 싶다면 👉🏻 https://toss.im/career/jobs #토스 #개발자컨퍼런스 #SLASH #SLASH24 #machinelearning #machinelearningplatform 유의 사항 *본 발표자료의 저작권은 연사에 있으며, 저작권자의 사전 서면 동의 없이 자료의 일부 또는 전부를 이용하거나 배포할 수 없습니다. *또한 해당 자료를 복제하여 SLASH 행사 홈페이지를 제외한 온라인상에 게재하는 행위는 연사가 동의한 저작권 및 배포전송권에 위배됩니다. *토스가 다루는 모든 개인정보는 고...
데브옵스 · 인프라 딥러닝 · 머신러닝
컨퍼런스 SLASH
토스ㅣSLASH 22 - 어떻게 안정적인 서비스를 빠르게, 자주 출시할 것인가?
컨퍼런스 SLASH
토스페이먼츠는 가맹점이 빠르게 변화하는 시장에서 승리할 수 있도록, 사업자가 필요한 기능을 적시에 안정적으로 제공하는 것을 목표로 합니다. 안정적인 서비스를 빠르게, 자주 출시하기 위한 노력과 그로부터 얻은 러닝을 공유합니다. 하태호 / 토스 DevOps Engineer 발표 자료 👉🏻 https://bit.ly/3xrlgEu 토스 개발자 컨퍼런스 SLASH에 대한 자세한 정보는 👉🏻 https://toss.im/slash-22 컨퍼런스 및 세션에 대한 문의는 👉🏻 slash@toss.im #토스 #개발자컨퍼런스 #SLASH
데브옵스 · 인프라 애자일 · 협업
컨퍼런스 SLASH
토스ㅣSLASH 21 - 빠르게 성장하는 스타트업의 DW
컨퍼런스 SLASH
토스ㅣSLASH 21 - 토스 서비스를 구성하는 서버 기술
컨퍼런스 SLASH
Active-Active 데이터센터 운영, Kubernetes와 Istio Service Mesh 운영, API-Gateway, Kafka, Redis, Monitoring Stack 등 토스에서 사용하는 전반적인 기술과 시스템 구성을 공유합니다. 이항령 / 토스 Server Platform Team Leader 토스 개발자 컨퍼런스 SLASH에 대한 자세한 정보는 👉🏻 https://toss.im/slash-21 컨퍼런스 및 세션에 대한 문의는 👉🏻 slash@toss.im #토스 #개발자컨퍼런스 #SLASH
백엔드 데이터베이스 데브옵스 · 인프라