본문으로 이동
Media & AI 가속기를 탑재한 카카오클라우드의 Video Instance 활용기 / if(kakaoAI)2024
컨퍼런스

Media & AI 가속기를 탑재한 카카오클라우드의 Video Instance 활용기 / if(kakaoAI)2024

if kakao 카카오 · YouTube

원문 보기

AI 핵심 요약

실시간 영상 서비스에서 여러 스트림을 지연 없이 트랜스코딩하고 영상에 비전 AI를 적용하기 위해 카카오클라우드의 VT1·VT2 미디어 가속 인스턴스와 V70 DPU 기반 AI 인스턴스를 비교했습니다. FFmpeg 파이프라인으로 CPU·GPU·VT 인스턴스의 처리 성능과 동시 스트림 증가에 따른 지연을 시험하고, VT1·VT2의 하드웨어 가속 및 병렬 처리 특성을 확인했습니다. AI 적용 사례로는 GStreamer와 VVAS를 사용해 자동차를 검출한 뒤 색상·브랜드·차종을 분류하는 캐스케이드 추론 파이프라인을 구성했습니다. 트랜스코딩 중심 서비스에는 VT 인스턴스를, 영상 분석과 추론에는 DPU 기반 인스턴스를 선택하는 것이 핵심입니다.

  • 실시간 멀티스트림 트랜스코딩은 CPU·GPU의 단일 작업 속도뿐 아니라 스트림 수가 늘어날 때 처리 지연이 어떻게 변하는지도 확인해야 합니다.
  • VT1·VT2는 카드의 인코딩·디코딩 디바이스에 작업을 나눠 병렬 처리할 수 있으며, VT2는 더 높은 해상도와 많은 스트림을 지원합니다.
  • AI 추론을 적용할 때는 모델을 양자화·컴파일해 DPU에 올리고, Vitis AI 또는 GStreamer의 VVAS 플러그인으로 파이프라인을 구성할 수 있습니다.
  • 캐스케이드 추론에서는 먼저 객체를 검출한 뒤 검출 결과에 분류 모델을 적용하고, 설정 파일로 모델과 추론 단계를 지정할 수 있습니다.

소개

Media 가속기를 통해 저지연 멀티스트림 트랜스코딩을 달성하고 실시간 스트리밍하는 사례를 공유합니다. AI 가속기를 통해 영상에 Vision AI를 적용하여 스트리밍하는 방법을 소개합니다. #ML #Vison #Cloud #Video Streaming 카카오엔터프라이즈에서 Vision AI 관련 서비스를 개발하고 있는 Mjkim입니다. 발표자료 보기 👉 https://speakerdeck.com/kakao/ifkakao24-21 if(kakaoAI)2024에 대한 자세한 정보는 👉 https://if.kakao.com #카카오 #이프카카오 #개발자컨퍼런스 #AI #기술 #개발 #ifkakaoAI2024

비슷한 학습 자료

컨퍼런스 if kakao

Kakao AI Native | if(kakaoAI)2024

컨퍼런스 if kakao

카카오 테크가 일하는 방식과 일상에 AI를 적용하는 전략을 소개합니다. 더 자세히 보기: https://tech.kakao.com/posts/655 #ainative #kakaotech #ifkakaoai2024 #ifkakao

컨퍼런스 if kakao

〰〰〰〰〰〰〰〰〰〰 Kakao AI Native 전략을 소개하며, 이번 if(kakaoAI)2024에서 만난 카카오테크의 이모저모를 담았습니다. 단지 서비스에 AI를 적용하는 것을 넘어 일하는 방식의 변화와 자연스러운 일상의 혁신에 이르기까지, 카카오가 AI Native Company로 나아가는 여정을 앞으로도 함께해 주세요! #AI #AInative #카카오테크 #kakaoAI #ifkakao 〰〰〰〰〰〰〰〰〰〰 카카오 개발자 컨퍼런스 if(kakaoAI)2024에서 카카오 AI 통합 브랜드 Kanana를 비롯해 AI 비전, 모델, 그리고 우리의 일상을 바꿀 새로운 AI 서비스를 처음으로 세상에 공개했습니다. 더 나은 일상을 모두에게 전하는 그날까지, 끊임없이 가깝고, 친근한 기술을 만들어 가겠습니다. 모든 연결을 새롭게 if(kakaoAI)2024 🔗 if(kakaoAI)2024 홈페이지 : https://if.kakao.com/ 🔗 Kakao Tech 홈페이지...

컨퍼런스 if kakao

숏폼, 휘발성 컨텐츠 서비스인 “카카오톡 펑” 개발 과정을 소개합니다. 성능 최적화, 비디오/이미지 데이터 처리 등을 위한 경험을 공유합니다. #카카오톡펑 #개발기 #최적화전략 #실시간데이터 카카오톡 플랫폼 개발하는 Ocean입니다. 카카오톡 플랫폼을 개발하는 Hoodie입니다. 발표자료 보기 👉 https://speakerdeck.com/kakao/ifkakao24-87 if(kakaoAI)2024에 대한 자세한 정보는 👉 https://if.kakao.com #카카오 #이프카카오 #개발자컨퍼런스 #AI #기술 #개발 #ifkakaoAI2024

웹 개발 백엔드

컨퍼런스 if kakao

카카오 내에 수많은 데이터에서 원하는 데이터를 빠르게 찾아주는 '0depth 사내봇 개발기'를 공유합니다. #Data #AI #LLM #RAG 카카오 데이터 조직의 Tory입니다. 실용적이고 사용자 친화적인 AI Application을 만드는 것에 관심이 많습니다. 카카오 내에 다양한 AI 프로덕트를 생산하는 Jennie입니다. 발표자료 보기 👉 https://speakerdeck.com/kakao/ifkakao24-27 if(kakaoAI)2024에 대한 자세한 정보는 👉 https://if.kakao.com #카카오 #이프카카오 #개발자컨퍼런스 #AI #기술 #개발 #ifkakaoAI2024

AI에이전트 개발

컨퍼런스 if kakao

모든 요소기술들을 아우를 수 있는 미래 먹거리로써 사물인터넷에 연결되는 스마트 디바이스와 클라우드 플랫폼, 그리고 서비스에 인공지능이 접목된 지능화된 사물인터넷(Artificial Intelligence of Things, AIoT)이 부각되는 시대. 사람과 사물이 경계없이 연결하기 위한 카카오i의 AIOT플랫폼의 구조와 현재, 방향, 고민에 대해 공유합니다. #AIoT 디케이테크인의 AI공통플랫폼팀에서 kakaoi 대화형플랫폼 개발을 하고 있는 Ramsy와 Tristan입니다. 발표자료 보기 👉 https://speakerdeck.com/kakao/ifkakao24-2 if(kakaoAI)2024에 대한 자세한 정보는 👉 https://if.kakao.com #카카오 #이프카카오 #개발자컨퍼런스 #AI #기술 #개발 #ifkakaoAI2024

인공지능 기타 네트워크

컨퍼런스 if kakao

Preview AI_2 @if(kakao)2021

컨퍼런스 if kakao

if (kakao) 2021 컨퍼런스에서 AI 관련 기술 발표 세션을 소개합니다. 1. AI 장면 분석을 통한 비디오 인코딩 최적화 @darren.thkim 동영상 인코딩을 위한 최적의 설정을 어떻게 찾을 수 있을까요? AI를 활용한 인코딩 최적화의 실제 사례를 중심으로 최적화와 분산 인코딩에 대해서 알아봅시다. 2. DFerence, 클라우드 기반 AI 서빙 플랫폼 @bran.p 맨땅에서부터 k8s를 사용하여 GPU shared inference Platform 을 만든 과정에서 얻은 경험과 지식을 공유합니다. 3. 카카오엔터프라이즈 딥러닝 음성 합성 기술 @jeff.rey @taylor.martin @satoshi.2020 카카오엔터프라이즈에서는 더욱 자연스럽고 고품질의 음성을 만들어내기 위한 음향 모델과 보코더 기술을 개발하였습니다. 또한, 보다 사람 같은 음성합성을 위한 스타일 변환 기술도 소개합니다. 4. Tips for transfer learning @mic...

데브옵스 · 인프라 딥러닝 · 머신러닝 컴퓨터 비전