빠르고 비용 효율적으로 LLM 서빙하기 / if(kakaoAI)2024
if kakao · YouTube
소개
경제적인 LLM 서비스 개발을 목표로 LLM의 추론 비용을 최적화하고자 고민하고 실험했던 다양한 내용을 공유합니다. #Kanana #LLM #Inference AI Engineering 조직 리더 Andrew입니다. 발표자료 보기 👉 https://speakerdeck.com/kakao/ifkakao24-31 if(kakaoAI)2024에 대한 자세한 정보는 👉 https://if.kakao.com #카카오 #이프카카오 #개발자컨퍼런스 #AI #기술 #개발 #ifkakaoAI2024
유사한 리소스
LLM은 있지만 다시 학습하고 싶어 - Kanana-2 개발기 (~ing)
if kakao · YouTube
‘선물하기 와인 탐험’ LLM 대화형 서비스 개발기 / if(kakaoAI)2024
if kakao · YouTube
서비스에 LLM 부스터 달아주기: 요약부터 AI Bot 까지 / if(kakaoAI)2024
if kakao · YouTube
밑바닥부터 시작하는 LLM 개발기 / if(kakaoAI)2024
if kakao · YouTube
최적의 LLM을 선택하는 방법 : DUO / if(kakaoAI)2024
if kakao · YouTube
LLM 서빙하기 / if(kakaoAI)2024
if kakao · YouTube