초등학생 AI모델 고등학교 보내기: Continual Learning으로 지속적으로 성장하는 AI 시스템 만들기
DEVIEW 2023 네이버 · YouTube
AI 핵심 요약
쏘카는 차량 상태 이미지 분류 모델을 운영하면서 오분류, 차량과 무관한 입력, 새로운 레이블에 대응해야 했지만, 모든 데이터를 다시 레이블링하고 처음부터 학습하는 방식은 비용이 컸다. 이를 해결하기 위해 로짓 기반 OOD 탐지기로 무관한 데이터를 분리하고, 임베딩 유사도 기반 데이터 리트리버로 레이블링 후보를 추린 뒤 사람의 검수를 거치도록 시스템을 구성했다. 새 태스크를 효율적으로 추가하기 위해 사전학습된 글로벌 표현과 태스크별 프롬프트를 활용하는 LPG(Continual Learning with General Representation)를 연구했으며, 유사 태스크 간 지식 공유를 통해 순차 학습을 지원했다. 다만 실제 데이터에서 기존 클래스와 새 클래스가 혼동되는 사례가 있어 Continual Learning만으로 바로 배포하지 않고, 지도학습 모델과 오프라인·온라인 검증을 거쳐 적용하는 것이 중요하다는 교훈을 얻었다.
- 분류 모델의 소프트맥스 이전 로짓을 활용해 입력이 학습 분포와 얼마나 가까운지 추정하고, 임계값으로 OOD 데이터를 걸러낼 수 있다.
- 레이블이 붙은 피드백 샘플과 미레이블 데이터의 임베딩 유사도를 계산하면 검수 후보를 좁힐 수 있지만, 최종 확인은 사람에게 맡겨야 한다.
- Continual Learning에서는 새 태스크 학습 후 이전 태스크 성능이 떨어지는 catastrophic forgetting을 고려해야 한다.
- LPG는 사전학습된 글로벌 표현과 태스크별 프롬프트를 결합하고, 유사 태스크 간 뉴런을 공유해 지식을 재사용한다.
- 실서비스 적용 전에는 Continual Learning 모델을 일반 지도학습 모델과 오프라인·온라인에서 비교해 위험을 확인한다.
소개
[DEVIEW 2023] * 발표자 : 정현희, 박경호(쏘카) * 발표제목 : 초등학생 AI모델 고등학교 보내기: Continual Learning으로 지속적으로 성장하는 AI 시스템 만들기 * DEVIEW 2023 바로가기: https://deview.kr/2023 #DEVIEW #DEVIEW2023 #데뷰 #데뷰2023
비슷한 학습 자료
컨퍼런스 if kakao
AI 기반 광고 콘텐츠 모니터링 기술 개발기 / if(kakaoAI)2024
컨퍼런스 if kakao
부적절한 광고소재 콘텐츠의 모니터링을 위해 사용한 이미지-텍스트 유사도 도출 모델의 소개와 학습 과정, 이를 고도화하기 위한 기술 개발 과정과, 기반 기술을 활용한 응용 사례를 소개합니다. #AI #광고소재필터링 #MultiModal Adaptive AI에서 다양한 인공지능 모델들을 학습하고 개발하는 Queue입니다! 최근에는 다양한 멀티모달 모델들에 대한 학습을 진행하고 있습니다! 발표자료 보기 👉 https://speakerdeck.com/kakao/ifkakao24-33 if(kakaoAI)2024에 대한 자세한 정보는 👉 https://if.kakao.com #카카오 #이프카카오 #개발자컨퍼런스 #AI #기술 #개발 #ifkakaoAI2024
딥러닝 · 머신러닝 컴퓨터 비전
컨퍼런스 if kakao
이미지까지 이해하는 Multimodal LLM의 학습 방법 밝혀내기 / if(kakaoAI)2024
컨퍼런스 if kakao
CVPR 2024에 하이라이트 논문으로 선정된 카카오의 자체 멀티모달 LLM을 소개하고, 이후 최근까지의 개선 과정을 통해 얻은 인사이트와 노하우를 공유합니다. #Kanana #MultiModal 카나나 알파 조직의 Multimodal LLM Core 팀원 Edwin입니다. 기존의 텍스트 모달리티만을 다루는 LLM에서 더 나아가 시각, 음성을 포함한 다양한 모달리티를 이해하고 반응할 수 있도록 하는 방법에 대해 연구하고 있습니다. 발표자료 보기 👉 https://speakerdeck.com/kakao/ifkakao24-7 if(kakaoAI)2024에 대한 자세한 정보는 👉 https://if.kakao.com #카카오 #이프카카오 #개발자컨퍼런스 #AI #기술 #개발 #ifkakaoAI2024
딥러닝 · 머신러닝 컴퓨터 비전
컨퍼런스 if kakao
Preview AI_2 / if(kakao)2022
컨퍼런스 if kakao
if(kakao)2022 컨퍼런스에서 AI_2 관련 기술 발표 트랙을 소개합니다. 01:27 1. 초거대모델 학습을 위한 이미지-텍스트 데이터셋: COYO-700M: Large-scale Image-Text Pair Dataset by 변민우(dylan.m) 카카오브레인 라지스케일엔지니어링팀에서 분산학습과 데이터 기술을 연구하고 있는 딜런입니다. 01:54 2. 카카오브레인의 텍스트 기반 이미지 생성 기술 소개 by 김세훈(sam.ksh) 카카오브레인에서 생성 모델을 개발하고 있는 연구원입니다. 02:11 3. 코끼리를 GPU에 넣는법: 실용적인 라지스케일 AI 학습을 위한 최적화 사례 공유 by 조상훈(monk.detective) 카카오브레인 Large-Scale AI Studio의 Monk 입니다. 라지스케일 AI를 실용적으로 사용하기 위해 항상 고민 중입니다. 02:42 4. 이 세상 모든 물체를 검출할 수 있는 AI 기술을 만들 수 있을까요?: 물체 검출 기술의 과거...
딥러닝 · 머신러닝 컴퓨터 비전
컨퍼런스 if kakao
Preview AI_2 @if(kakao)2021
컨퍼런스 if kakao
if (kakao) 2021 컨퍼런스에서 AI 관련 기술 발표 세션을 소개합니다. 1. AI 장면 분석을 통한 비디오 인코딩 최적화 @darren.thkim 동영상 인코딩을 위한 최적의 설정을 어떻게 찾을 수 있을까요? AI를 활용한 인코딩 최적화의 실제 사례를 중심으로 최적화와 분산 인코딩에 대해서 알아봅시다. 2. DFerence, 클라우드 기반 AI 서빙 플랫폼 @bran.p 맨땅에서부터 k8s를 사용하여 GPU shared inference Platform 을 만든 과정에서 얻은 경험과 지식을 공유합니다. 3. 카카오엔터프라이즈 딥러닝 음성 합성 기술 @jeff.rey @taylor.martin @satoshi.2020 카카오엔터프라이즈에서는 더욱 자연스럽고 고품질의 음성을 만들어내기 위한 음향 모델과 보코더 기술을 개발하였습니다. 또한, 보다 사람 같은 음성합성을 위한 스타일 변환 기술도 소개합니다. 4. Tips for transfer learning @mic...
데브옵스 · 인프라 딥러닝 · 머신러닝 컴퓨터 비전
컨퍼런스 DEVIEW 2023
이제는 AI가 읽고(Language), 보고(Vision), 생성하는 Large-scale Multimodal의 시대입니다
컨퍼런스 DEVIEW 2023