필요한 순간 먼저 말을 걸어주는 온디바이스 AI
if kakao 카카오 · YouTube
AI 핵심 요약
카카오톡 대화에서 사용자가 정보 검색·장소 탐색·할 일 관리의 도움을 필요로 하는 순간을 감지해 먼저 제안하는 온디바이스 AI를 개발했습니다. 카나노 1B·2.1B 모델이 대화 맥락을 추출하고, 필요한 경우 정해진 형식의 함수 호출 정보를 생성하도록 학습했으며, 공개 SNS 대화와 대형 모델의 합성 응답으로 데이터를 구축했습니다. 맥락 추출을 공통 학습 과제로 두고 네 가지 평가 기준으로 품질을 점검했으며, 양자화·토큰 제거·얼리 스톱을 적용해 모바일 환경에 맞게 최적화했습니다. 발표에서는 작은 모델이 대형 모델과 비슷한 수준의 성능을 보이고 맥락 정확도 90% 이상을 달성했다고 밝혔으며, 데이터와 모델, 경량화 기법을 계속 개선할 계획이라고 설명했습니다.
- 작은 모델이 여러 도메인에 대응하도록 도메인별 추론 과정을 따로 만들기보다 공통된 ‘맥락 추출’을 학습 발판으로 삼았습니다.
- 맥락 평가는 원문 충실도, 대화 주체 구분, 최신 정보 반영, 육하원칙 추출의 네 기준으로 설계했습니다.
- 공개 SNS 대화를 카카오톡 상황에 맞게 가공하고, 호스트를 바꿔 같은 대화에서 다양한 학습 사례를 만들었습니다.
- 양자화와 저빈도 토큰 제거로 모델 크기를 줄이고, 알림이 필요 없는 경우에는 출력을 일찍 중단해 연산을 아꼈습니다.
소개
if(kakao)25 내 폰 안에서 AI의 도움이 필요한 대화 맥락을 감지하고, 꼭 필요한 순간 먼저 말을 걸어주는 카카오톡만의 온디바이스 AI 개발 과정을 공유합니다. #TECH #PRODUCT #AI #Agent 카카오톡에 적용되는 AI 서비스들을 기획하고 있는 김강학(chris.kh)입니다. 카카오톡에 적용되는 AI 서비스들의 모델 개발을 맡고 있는 김다인(denver.in)입니다. AI 서비스를 위한 다양한 모델 개발을 진행하고 있는 민규식 (queue.min)입니다. 발표자료 보기 📍 https://if.kakao.com/2025/session?sessionId=23 📍 if.kakao.com if(kakao)25 홈페이지 : https://if.kakao.com/2025 #카카오 #kakao #이프카카오25
비슷한 학습 자료
컨퍼런스 if kakao
AI Coding Agent: 실험을 통해 확인한 생산성 그 이상의 가능성
컨퍼런스 if kakao
if(kakao)25 ‘바이브코딩’에서 시작된 새로운 개발 패러다임, 카카오의 프로덕션 환경에서도 통했을까요? 카카오의 생생한 실험 과정을 통해 무엇을 증명했고, 어떤 통찰을 얻었는지 확인하실 수 있습니다. #TECH #AI #Agent AI와 함께 일하는 새로운 방식을 탐구하며, 카카오의 AI-Native 전환을 위한 전략과 실행을 이끌어가는 Vibeworker 이호정(benedict.lee)입니다. 발표자료 보기 📍https://if.kakao.com/2025/session?sessionId=53 📍if.kakao.com if(kakao)25 홈페이지 : https://if.kakao.com/2025 #카카오 #kakao #이프카카오25
AI 코딩 AI에이전트 개발 로드맵 1개에 담김
컨퍼런스 if kakao
카카오톡 AI 에이전트를 위한 온디바이스 모델 최적화 및 적용
컨퍼런스 if kakao
if(kakao)25 온디바이스 환경의 제약 사항과 적용 가능한 솔루션을 소개하고, 양자화를 포함한 최적화 기술을 온디바이스에 적용하는 과정과 결과를 공유합니다. #TECH #AI #LLM 온디바이스 환경에서 언어 모델을 사용할 수 있도록 하는 것을 포함해 다양한 AI 기술을 탐색하고 적용하는 일을 하고 있는 노영만(alan.zero)입니다. 발표자료 보기 📍https://if.kakao.com/2025/session?sessionId=52 📍if.kakao.com if(kakao)25 홈페이지 : https://if.kakao.com/2025 #카카오 #kakao #이프카카오25
모바일 앱 개발 딥러닝 · 머신러닝
컨퍼런스 if kakao
모두를 위한, 안전한 보이스톡 AI 통화기능
컨퍼런스 if kakao
if(kakao)25 보이스톡은 이제 단순한 통화를 넘어 음성 대화를 기록하고 기억하는 새로운 도구가 됩니다. 이제 통화 녹음과 STT, AI 요약, 검색, 톡 클라우드 저장까지 보이스톡 하나로 완벽하게 해결됩니다. 진화하는 보이스톡의 새로운 기능과 개발 스토리를 소개합니다. #PRODUCT #TECH #General #AI 카카오에서 보이스톡, 페이스톡, 보이스룸 서비스 조직을 맡고 있는 이은혜(grace.lee)입니다. 카카오에서 카카오톡 아이폰 앱의 보이스톡, 페이스톡, 보이스룸 개발을 담당하고 있는 황동현(will.h)입니다. 발표자료 보기 📍 https://if.kakao.com/2025/session?sessionId=12 📍 if.kakao.com if(kakao)25 홈페이지 : https://if.kakao.com/2025 #카카오 #kakao #이프카카오25
모바일 앱 개발 자연어 처리
컨퍼런스 if kakao
카카오는 어떻게 AI를 일상의 언어로 만들까? | if(kakaoAI)2024
컨퍼런스 if kakao
〰〰〰〰〰〰〰〰〰〰 Kakao AI Native 전략을 소개하며, 이번 if(kakaoAI)2024에서 만난 카카오테크의 이모저모를 담았습니다. 단지 서비스에 AI를 적용하는 것을 넘어 일하는 방식의 변화와 자연스러운 일상의 혁신에 이르기까지, 카카오가 AI Native Company로 나아가는 여정을 앞으로도 함께해 주세요! #AI #AInative #카카오테크 #kakaoAI #ifkakao 〰〰〰〰〰〰〰〰〰〰 카카오 개발자 컨퍼런스 if(kakaoAI)2024에서 카카오 AI 통합 브랜드 Kanana를 비롯해 AI 비전, 모델, 그리고 우리의 일상을 바꿀 새로운 AI 서비스를 처음으로 세상에 공개했습니다. 더 나은 일상을 모두에게 전하는 그날까지, 끊임없이 가깝고, 친근한 기술을 만들어 가겠습니다. 모든 연결을 새롭게 if(kakaoAI)2024 🔗 if(kakaoAI)2024 홈페이지 : https://if.kakao.com/ 🔗 Kakao Tech 홈페이지...
컨퍼런스 if kakao
업무 효율화를 위한 카카오 사내봇 개발기 / if(kakaoAI)2024
컨퍼런스 if kakao
카카오 내에 수많은 데이터에서 원하는 데이터를 빠르게 찾아주는 '0depth 사내봇 개발기'를 공유합니다. #Data #AI #LLM #RAG 카카오 데이터 조직의 Tory입니다. 실용적이고 사용자 친화적인 AI Application을 만드는 것에 관심이 많습니다. 카카오 내에 다양한 AI 프로덕트를 생산하는 Jennie입니다. 발표자료 보기 👉 https://speakerdeck.com/kakao/ifkakao24-27 if(kakaoAI)2024에 대한 자세한 정보는 👉 https://if.kakao.com #카카오 #이프카카오 #개발자컨퍼런스 #AI #기술 #개발 #ifkakaoAI2024
AI에이전트 개발
컨퍼런스 if kakao
카카오i를 통한 AIOT 서비스의 사례와 미래 / if(kakaoAI)2024
컨퍼런스 if kakao
모든 요소기술들을 아우를 수 있는 미래 먹거리로써 사물인터넷에 연결되는 스마트 디바이스와 클라우드 플랫폼, 그리고 서비스에 인공지능이 접목된 지능화된 사물인터넷(Artificial Intelligence of Things, AIoT)이 부각되는 시대. 사람과 사물이 경계없이 연결하기 위한 카카오i의 AIOT플랫폼의 구조와 현재, 방향, 고민에 대해 공유합니다. #AIoT 디케이테크인의 AI공통플랫폼팀에서 kakaoi 대화형플랫폼 개발을 하고 있는 Ramsy와 Tristan입니다. 발표자료 보기 👉 https://speakerdeck.com/kakao/ifkakao24-2 if(kakaoAI)2024에 대한 자세한 정보는 👉 https://if.kakao.com #카카오 #이프카카오 #개발자컨퍼런스 #AI #기술 #개발 #ifkakaoAI2024
인공지능 기타 네트워크