![FEConf 2025 [A5] 프론트엔드에서 1,000만 개 데이터를 실시간으로 처리하라고요? WebGL2를 활용한 GPGPU의 세계로](https://i.ytimg.com/vi/HfqDEHQn0MU/maxresdefault.jpg)
FEConf 2025 [A5] 프론트엔드에서 1,000만 개 데이터를 실시간으로 처리하라고요? WebGL2를 활용한 GPGPU의 세계로
FEConf 2025 A트랙 · YouTube
AI 핵심 요약
바이오 데이터의 규모가 커지면서 기존 시각화 라이브러리와 CPU 기반 필터링으로는 수백만~천만 개 데이터를 빠르게 처리하기 어려웠다. 발표자는 브라우저 지원 범위가 넓은 WebGL2와 GLSL 셰이더를 이용해 데이터를 GPU에서 병렬 필터링하는 방식을 구현했고, 대규모 데이터에서 CPU보다 빠른 처리 사례를 시연했다. 다만 GPU와 CPU 사이의 데이터 전송이 병목이 될 수 있어 중간 결과를 GPU 버퍼에 유지하는 핑퐁 기법을 활용하고, 메모리 관리와 비트 패킹도 고려해야 한다. 작은 작업에는 CPU가 더 빠를 수 있으므로 데이터 규모와 전송 비용을 함께 따져 GPGPU를 적용해야 한다는 점을 강조했다.
- GPU는 많은 데이터를 병렬로 처리하는 데 강하지만, 작은 작업에서는 GPU와 CPU 사이의 데이터 전송 비용 때문에 오히려 느릴 수 있다.
- 연속된 GPU 연산에서는 중간 결과를 CPU로 가져오지 않고 버퍼에 다시 연결하는 핑퐁 기법으로 전송 병목을 줄인다.
- WebGL2의 텍스처 크기 제한과 GPU 메모리 사용량을 고려하고, 비트 패킹으로 불리언 데이터를 압축할 수 있다.
- GPU 메모리는 직접 해제해야 하며, Float64에서 Float32로 변환할 때 정밀도 손실이 생기는지 확인해야 한다.
- WebGL2와 WebGPU 중 브라우저 지원 범위를 확인해 선택하고, LLM에 코드를 요청할 때 사용할 API를 명확히 지정한다.
소개
FEConf 2025 2025.8.23 11:00 ~ 17:40 세종대학교 광개토관 컨벤션센터 TRACK A-5 프론트엔드에서 1,000만 개 데이터를 실시간으로 처리하라고요? WebGL2를 활용한 GPGPU의 세계로 김한슬마로 | Portrai Inc. AI 기술의 확산으로 산업 전반에서 데이터의 규모와 중요성이 급격히 커지고 있습니다. 이에 따라 백엔드뿐만 아니라 프론트엔드에서도, 브라우저 상에서 대규모 데이터를 실시간으로 분석하고 시각화하려는 요구가 빠르게 증가하고 있습니다. 이번 세션에서는 이러한 흐름에 맞춰, GPU 가속을 활용해 브라우저 내에서 데이터를 효과적으로 처리하는 기술을 소개합니다.
비슷한 학습 자료
컨퍼런스 엔지니어링데이 2025
ARC로 확장가능한 GPU 서비스 개발 인프라 구축하기
컨퍼런스 엔지니어링데이 2025
네이버 사내 기술 교류 행사인 NAVER ENGINEERING DAY 2025 에서 발표되었던 세션을 공개합니다. [발표 내용] Actions Runner Controller 를 사용하여 Kubernetes 클러스터 위에서 GPU 서비스 개발을 위한 CICD 인프라를 확장 가능한 형태로 구축하는 방법을 소개합니다. [발표 대상] - Github Actions 등 CICD 인프라를 구축하려는 엔지니어 - 자동화된 GPU Testing 파이프라인을 구축하려는 엔지니어 - Scalable CICD 를 구현하고자 하는 엔지니어 [목차] 1. CICD, Scalability, 그리고 GPU 2. Actions Runner Controller (ARC) 3. CICD for GPU Service on ARC 4. SNOW의 Scalable CICD Infrastructure
데브옵스 · 인프라
컨퍼런스 엔지니어링데이 2025
레거시 GPU에 날개 달기: 극한의 서빙 최적화 가이드
컨퍼런스 엔지니어링데이 2025
네이버 사내 기술 교류 행사인 NAVER ENGINEERING DAY 2025(5월)에서 발표되었던 세션을 공개합니다. [발표 내용] 이 세션에서는 BERT기반 모델인 SPLADE모델의 대규모 실시간 서비스를 위한 최적화 방법에 대해서 이야기 합니다. 세상에서 가장 빠른 BertTokenizer 구현체인 FlashTokenizer 의 개발 배경과 성능에 대해 소개합니다. [강의 대상] 실시간 서빙을 위한 모델 추론 최적화가 필요하신 분들 [목차] - Introduction - Model Simplify - Inference Optimization(basic) - Postprocess Optimization - Preprocess Optimization - Inference Optimization(advanced) - Service
데브옵스 · 인프라 자연어 처리
컨퍼런스 엔지니어링데이 2025
Ray를 활용한 GPU Util 100% MLOps: 배치처리부터 모델 서빙까지
컨퍼런스 엔지니어링데이 2025
네이버 사내 기술 교류 행사인 NAVER ENGINEERING DAY 2025(5월)에서 발표되었던 세션을 공개합니다. [발표 내용] AI/ML 분산 처리 프레임워크인 Ray를 활용하여 GPU Util 100%를 달성한 배치처리 기법과 확장 가능한 모델 서빙 아키텍처를 소개합니다. [발표 대상] 배치 파이프라인 설계와 모델 서빙 자동화를 담당하는 분 Ray 기반 인프라 운영 및 GPU 클러스터 관리 업무를 수행하는 분 Ray Serve를 활용해 고성능 모델 서빙 API를 설계·배포·운영하는 분 Ray LLM(vLLM) 기반 LLM 추론 파이프라인을 구성·확장하고, 내부 모델 레지스트리를 연동하는 분 [목차] 1. Introduction to Ray - Ray에 대한 소개 및 Core Architecture에 대한 이해 2. Ray Data: GPU Util 100% Bach Inference를 위한 수난기 - 기존 구조와 도입된 구조 비교 - TroubleShooti...
데브옵스 · 인프라 딥러닝 · 머신러닝
컨퍼런스 엔지니어링데이 2025
Kubernetes GPU 클러스터에서 AI 서비스 오토스케일링하기
컨퍼런스 엔지니어링데이 2025
네이버 사내 기술 교류 행사인 NAVER ENGINEERING DAY 2025(5월)에서 발표되었던 세션을 공개합니다. [발표 내용] 대규모 쿠버네티스 GPU 클러스터에서 자체 HPA 시스템 구축을 통해 글로벌 유저 트래픽에 동적으로 대응하는 AI 서비스 오토스케일링을 적용한 사례를 소개합니다. [발표 대상] * AI 서비스 운영을 위해 GPU 서버 기반의 Kubernetes 클러스터 도입을 고려하는 엔지니어 * AI 서비스 오토스케일링을 Kubernetes 에서 도입하고자 하는 엔지니어 * 기본 HPA 보다 고도화된 방법으로 오토스케일링을 도입하고자 하는 엔지니어 [목차] * 왜 SNOW는 GPU orchestration이 필요한가 * GPU 기반 서비스의 오토스케일링이 어려운 이유 * KEDA: Event-Driven Autoscaler * SNOW의 GPU Orchestration 시스템
데브옵스 · 인프라 딥러닝 · 머신러닝 로드맵 1개에 담김
컨퍼런스 FEConf 2025 A트랙
FEConf 2025 [A1] 60 FPS in React Native
컨퍼런스 kt cloud Summit 2025