토스ㅣSLASH 23 - Kafka 이중화로 다양한 장애 상황 완벽 대처하기
SLASH 토스 · YouTube
AI 핵심 요약
토스증권은 시세·거래 정보와 서비스 간 비동기 통신, 로그 및 CDC를 Kafka로 처리해 IDC 전체 장애가 나면 서비스가 중단될 위험이 있었다. 이를 줄이기 위해 두 IDC를 액티브-액티브로 운영하고 Kafka Connect로 메시지를 양방향 미러링했으며, Offset Sync로 컨슈머 그룹의 소비 위치도 동기화했다. 중복 소비를 막기 위해 평시에는 한쪽 IDC의 컨슈머만 메시지를 처리하고, 장애 시 트래픽과 컨슈머를 정상 IDC로 전환해 기존 오프셋부터 소비를 재개하도록 했다. 토픽 수와 모니터링 부담은 관리 앱과 Prometheus·Thanos·Elasticsearch 기반 자동화로 낮췄으며, Kafka 이중화만으로 충분하지 않고 시스템 전반의 이중화가 필요하다는 점도 강조했다.
- 액티브-액티브 구성에서는 각 IDC로 들어온 메시지를 Kafka Connect로 양방향 미러링해야 양쪽 클러스터가 전체 메시지를 보유한다.
- 컨슈머 그룹의 오프셋도 장애 전환에 필요하므로 Offset Sync로 상대 클러스터에 동기화하고, 클러스터별 오프셋 체계 차이를 고려한다.
- 미러링된 메시지를 양쪽에서 모두 소비하면 중복 처리가 생길 수 있으므로 평시 컨슈머를 한 IDC에만 두는 구성을 선택했다.
- 토픽 이중화와 모니터링 부담을 줄이려면 관리 앱, Prometheus·Thanos 기반 알림, 로그 수집 등 운영 자동화를 함께 설계해야 한다.
소개
다양한 장애 상황에도 사용자에게 매끄러운 서비스 경험을 제공하는 방법은 뭘까요? 더 견고하고 편리한 증권 서비스 구축을 위한 토스증권의 ‘Kafka IDC 이중화’ 과정을 소개합니다. 강병수 / 토스증권 Data Engineer 발표 자료 👉🏻 https://bit.ly/3CkW4mc 토스 개발자 컨퍼런스 SLASH에 대한 자세한 정보는 👉🏻 https://bit.ly/43kW3tO 컨퍼런스 및 세션에 대한 문의는 👉🏻 slash@toss.im 토스에 합류하고 싶다면 👉🏻 https://toss.im/career/jobs #kafka #idc #dataengineer #토스증권 #개발자컨퍼런스 #SLASH *본 발표자료의 저작권은 연사에 있으며, 저작권자의 사전 서면 동의 없이 자료의 일부 또는 전부를 이용하거나 배포할 수 없습니다. *또한 해당 자료를 복제하여 SLASH 행사 홈페이지를 제외한 온라인상에 게재하는 행위는 연사가 동의한 저작권 및 배포전...
비슷한 학습 자료
컨퍼런스 SLASH
트래픽이 쏟아지는 마이데이터 서비스, 과연 어떻게 안정적으로 운영할 수 있을까요? 서비스 운영 과정에서 마주했던 여러 과제들과 기술적인 의사결정을 소개합니다. 신윤재 / Server Developer 토스 개발자 컨퍼런스 SLASH에 대한 자세한 정보는 👉🏻 https://toss.im/slash-24 컨퍼런스 및 세션에 대한 문의는 👉🏻 slash@toss.im 토스에 합류하고 싶다면 👉🏻 https://toss.im/career/jobs #토스 #개발자컨퍼런스 #SLASH #SLASH24 #mydata #backend 유의 사항 *본 발표자료의 저작권은 연사에 있으며, 저작권자의 사전 서면 동의 없이 자료의 일부 또는 전부를 이용하거나 배포할 수 없습니다. *또한 해당 자료를 복제하여 SLASH 행사 홈페이지를 제외한 온라인상에 게재하는 행위는 연사가 동의한 저작권 및 배포전송권에 위배됩니다. *토스가 다루는 모든 개인정보는 고객에게 동의를 받은 후에 처...
백엔드 데이터베이스
컨퍼런스 SLASH
어떻게 하면 실시간으로 고객들에게 데이터를 제공할 수 있을까요? ClickHouse를 활용해 토스증권의 실시간 랭킹서비스 구조를 개선한 여정을 소개합니다. 정채문 / Data Engineer 토스 개발자 컨퍼런스 SLASH에 대한 자세한 정보는 👉🏻 https://toss.im/slash-24 컨퍼런스 및 세션에 대한 문의는 👉🏻 slash@toss.im 토스에 합류하고 싶다면 👉🏻 https://toss.im/career/jobs #토스 #개발자컨퍼런스 #SLASH #SLASH24 #machinelearning #clickhouse #토스증권 유의 사항 *본 발표자료의 저작권은 연사에 있으며, 저작권자의 사전 서면 동의 없이 자료의 일부 또는 전부를 이용하거나 배포할 수 없습니다. *또한 해당 자료를 복제하여 SLASH 행사 홈페이지를 제외한 온라인상에 게재하는 행위는 연사가 동의한 저작권 및 배포전송권에 위배됩니다. *토스가 다루는 모든 개인정보는 고객에게...
백엔드 데이터베이스
컨퍼런스 SLASH
일평균 56억 건 이상 수집되는 토스증권의 로그, 어떻게 효율적으로 처리할까요? 큰 폭으로 늘어나는 대규모 로그 처리를 위한 ‘Elasticsearch 클러스터 개선 경험’을 소개합니다. 이준환 / 토스증권 Data Engineer 발표 자료 👉🏻 https://bit.ly/3WW5jm2 토스 개발자 컨퍼런스 SLASH에 대한 자세한 정보는 👉🏻 https://bit.ly/43kW3tO 컨퍼런스 및 세션에 대한 문의는 👉🏻 slash@toss.im 토스에 합류하고 싶다면 👉🏻 https://toss.im/career/jobs #elasticsearch #데이터센터 #dataengineer #토스증권 #개발자컨퍼런스 #SLASH *본 발표자료의 저작권은 연사에 있으며, 저작권자의 사전 서면 동의 없이 자료의 일부 또는 전부를 이용하거나 배포할 수 없습니다. *또한 해당 자료를 복제하여 SLASH 행사 홈페이지를 제외한 온라인상에 게재하는 행위는 연사가 동...
데이터베이스 데브옵스 · 인프라
컨퍼런스 SLASH
토스ㅣSLASH 23 - 은행 데이터플랫폼 오픈소스로 전환하기
컨퍼런스 SLASH
토스뱅크는 정보계 시스템을 어떻게 개편하고 있을까요? 오픈 소스를 이용한 플랫폼에서 신뢰할 수 있는 데이터를 운영할 수 있는 방법을 소개합니다. 김용휘 / 토스뱅크 Data Platform Team Leader 발표 자료 👉🏻 https://bit.ly/3Ci0lXx 토스 개발자 컨퍼런스 SLASH에 대한 자세한 정보는 👉🏻 https://bit.ly/43kW3tO 컨퍼런스 및 세션에 대한 문의는 👉🏻 slash@toss.im 토스에 합류하고 싶다면 👉🏻 https://toss.im/career/jobs #데이터플랫폼 #오픈소스 #dataengineer #토스뱅크 #개발자컨퍼런스 #SLASH *본 발표자료의 저작권은 연사에 있으며, 저작권자의 사전 서면 동의 없이 자료의 일부 또는 전부를 이용하거나 배포할 수 없습니다. *또한 해당 자료를 복제하여 SLASH 행사 홈페이지를 제외한 온라인상에 게재하는 행위는 연사가 동의한 저작권 및 배포전송권에 위배됩...
데이터베이스 데브옵스 · 인프라
컨퍼런스 SLASH
토스ㅣSLASH 23 - 머신러닝으로 더 똑똑하게 증권 뉴스 제공하기
컨퍼런스 SLASH
토스증권은 어떻게 사용자가 필요한 투자 정보를 쏙쏙 뽑아 전달할까요? 수많은 정보 중 사용자에게 꼭 필요한 정보를 선별, 전달하기 위해 구축한 ‘3가지 머신러닝 모델’을 소개합니다. 조중현 / 토스증권 Data Scientist 발표 자료 👉🏻 https://bit.ly/3NluxHC 토스 개발자 컨퍼런스 SLASH에 대한 자세한 정보는 👉🏻 https://bit.ly/43kW3tO 컨퍼런스 및 세션에 대한 문의는 👉🏻 slash@toss.im 토스에 합류하고 싶다면 👉🏻 https://toss.im/career/jobs #machinelearning #argoworkflows #datascientist #datascientist #토스증권 #개발자컨퍼런스 #SLASH *본 발표자료의 저작권은 연사에 있으며, 저작권자의 사전 서면 동의 없이 자료의 일부 또는 전부를 이용하거나 배포할 수 없습니다. *또한 해당 자료를 복제하여 SLASH 행사 홈페이지...
딥러닝 · 머신러닝
컨퍼런스 SLASH
토스ㅣSLASH 23 - 실시간 시세 데이터 안전하고 빠르게 처리하기
컨퍼런스 SLASH
토스증권의 시세 정보는 어떤 원리로 보이는 것일까요? 시세 플랫폼을 통해 시스템 구조와 개발 당시 고민했던 과정을 소개합니다. 정도원 / 토스증권 Server Developer 발표 자료 👉🏻 https://bit.ly/3IXHhl5 토스 개발자 컨퍼런스 SLASH에 대한 자세한 정보는 👉🏻 https://bit.ly/43kW3tO 컨퍼런스 및 세션에 대한 문의는 👉🏻 slash@toss.im 토스에 합류하고 싶다면 👉🏻 https://toss.im/career/jobs #redis #reactiveredistemplate #serverdeveloper #토스증권 #개발자컨퍼런스 #SLASH *본 발표자료의 저작권은 연사에 있으며, 저작권자의 사전 서면 동의 없이 자료의 일부 또는 전부를 이용하거나 배포할 수 없습니다. *또한 해당 자료를 복제하여 SLASH 행사 홈페이지를 제외한 온라인상에 게재하는 행위는 연사가 동의한 저작권 및 배포전송권에 위배됩...
백엔드 데이터베이스