실전! 인공지능 챗봇 개발 (홍석용, Dennis)
if kakao 카카오 · YouTube
AI 핵심 요약
쿠버네티스 클라우드 운영 문의가 반복돼 개발 속도와 담당자의 업무 만족도가 떨어지는 문제를 해결하기 위해, GPT-3.5 API와 임베딩 기반 검색을 활용한 사내 챗봇을 만들었다. 운영 문서와 과거 사례를 벡터화해 질문과 의미가 가까운 내용을 찾아 프롬프트에 넣고, 답변과 근거 링크를 카카오톡·아지트에서 제공하도록 구성했다. 별도의 AI 비서 사례에서는 목표에 따라 Google Calendar, Gmail, Google Docs·Drive 등의 도구를 선택하고 순차적으로 실행하는 패턴을 시연했다. 파인튜닝만이 지식을 반영하는 방법은 아니며, 프롬프트와 검색을 코드에 결합하면 기존 개발자도 업무 자동화에 언어 모델을 활용할 수 있다는 점을 공유했다.
- 파인튜닝은 모델 자체를 바꾸지만, 임베딩 기반 검색은 질문과 관련된 문서를 찾아 프롬프트에 넣어 답변을 생성한다.
- 대화 맥락을 유지하려면 이전 사용자·어시스턴트 메시지를 요청마다 함께 보내야 하므로 토큰 한도를 고려해야 한다.
- 임베딩 벡터 간 코사인 유사도를 활용하면 표현이 달라도 의미가 가까운 지식을 검색할 수 있다.
- 프롬프트에서는 입력 경계를 명확히 하고, 원하는 출력 형식과 처리 단계를 구체적으로 지정한다.
- 언어 모델의 결과를 그대로 신뢰하기보다 코드와 결합하고, 근거 문서 링크나 사용자 피드백으로 검증 경로를 마련한다.
소개
[2023.05.11. 제1회 kakao tech meet 발표] 카카오에서 클라우드 플랫폼을 개발하고 있습니다. ‘Cloud에 AI 기술을 활용하는 방안’과 ‘Cloud 가 AI를 더 잘 지원하는 방법’에 대해서 연구 중입니다. Open AI API를 활용한 인공지능 챗봇 개발 사례를 소개하고, 인공지능 챗봇의 구성요소 및 동작 원리, 인공지능을 활용한 개발 패턴 등을 공유합니다. AI 챗봇을 개발해보고 싶은 개발자, 개발자는 아니지만 동작 원리가 궁금한 분들에게 추천합니다. #kakaotech #AI, #chatbot, #finetuning , #embedding, #chaining, #openai , #gpt , #chatgpt --- 💬 발표자 인터뷰: https://tech.kakao.com/2023/05/31/ai-chatbot/ ✨ 카카오 테크 페이스북: https://www.facebook.com/kakaotech
비슷한 학습 자료
컨퍼런스 if kakao
if(kakao)25 GPU 도입부터 LLMOps 구축, 그리고 이를 기반으로 LLM을 활용한 AI 에이전트 및 워크플로우 개발을 위한 플랫폼 개발 과정을 소개합니다. #TECH #AI #LLM 카카오페이에서 DevOps 업무를 담당하고 있는 유수지(stella.yu)입니다. 카카오페이에서 서버개발을 담당하고 있는 최원호(wayne.cai)입니다. AI Native 업무에 관심이 많습니다. 발표자료 보기 📍https://if.kakao.com/2025/session?sessionId=42 📍if.kakao.com if(kakao)25 홈페이지 : https://if.kakao.com/2025 #카카오 #kakao #이프카카오25
데브옵스 · 인프라 AI에이전트 개발
컨퍼런스 if kakao
AI 활용 개발, 실제로 어디까지 가능한가?
컨퍼런스 if kakao
Kakao Tech Flagship Day (250522) * 발표자 : benedict.lee * 주제: AI 활용 개발, 실제로 어디까지 가능한가? ⏲️ Time Stamps 00:00 인트로 05:26 AI 활용 개발, 실제로 어디까지 가능한가? 07:31 Phase 1 : 일주일 만에 앱 만들기?! 14:18 Phase 1 데모: 낚시인을 위한 출조 기록 & 장비 관리 앱 31:54 Phase 1 실험 결론 : 바이브코딩 '가능성'과 명확한 '한계' 43:22 Phase 2 : 바이브코딩 한계 극복 및 실무 적용 검증 47:15 Phase 2 : 실험 결과 53:16 Phase 2.5 실행 : 전사 확산을 위한 4대 핵심 추진 과제 56:16 Phase 3 (Next) : AI-Native 개발 문화, 카카오 전체로 57:20 AI와 개발자의 공진화(Co-evolution)' : 테크 리더들의 핵심 통찰 58:36 결론 : AI와의 '공진화', 카카오 실험이 우리에게 말하는...
AI 코딩
컨퍼런스 if kakao
업무 효율화를 위한 카카오 사내봇 개발기 / if(kakaoAI)2024
컨퍼런스 if kakao
카카오 내에 수많은 데이터에서 원하는 데이터를 빠르게 찾아주는 '0depth 사내봇 개발기'를 공유합니다. #Data #AI #LLM #RAG 카카오 데이터 조직의 Tory입니다. 실용적이고 사용자 친화적인 AI Application을 만드는 것에 관심이 많습니다. 카카오 내에 다양한 AI 프로덕트를 생산하는 Jennie입니다. 발표자료 보기 👉 https://speakerdeck.com/kakao/ifkakao24-27 if(kakaoAI)2024에 대한 자세한 정보는 👉 https://if.kakao.com #카카오 #이프카카오 #개발자컨퍼런스 #AI #기술 #개발 #ifkakaoAI2024
AI에이전트 개발
컨퍼런스 if kakao
카카오가 AI 서비스 개발과 운영을 위해 구축한 Kakao AI Platform (KAP)에 대해 소개합니다. KAP은 AI Ops 에 필요한 핵심 기능들(Store, Serving, Training, Agent)을 통합 제공하는 AI 플랫폼입니다. 플랫폼 엔지니어링적 접근으로 KAP을 활용해 AI 기술의 빠른 확산과 업무 생산성을 향상시킨 사례들을 소개합니다. #AI #Platform #Cloud #SaaS #AIOps #ModelOps #Data 카카오에서 AI 플랫폼을 개발하고 있는 Dennis입니다. AI 와 클라우드를 활용한 개발 라이프 사이클 자동화에 관심이 많습니다. 발표자료 보기 👉 https://speakerdeck.com/kakao/ifkakao24-17 if(kakaoAI)2024에 대한 자세한 정보는 👉 https://if.kakao.com #카카오 #이프카카오 #개발자컨퍼런스 #AI #기술 #개발 #ifkakaoAI2024
데브옵스 · 인프라 인공지능 기타
컨퍼런스 if kakao
[2023.05.11. 제1회 kakao tech meet 발표] 카카오에서 클라우드를 만들고 있습니다. 뇌과학(neuroscience)을 전공하고 있어서 클라우드와 알고리즘을 통해서 AI 문제를 푸는 것에 관심이 많습니다. 취미는 논문 읽기, 특기는 책 만들기인 엔지니어입니다. 카카오의 Nocode 플랫폼 monokode와 서버리스 서비스 functions를 통해서 간단하지만 강력한 generative AI 서비스를 쉽게 개발하는 방법에 대해서 설명합니다. 노코드가 궁금한 분들, 노코드로 AI 서비스를 만드는 방법에 대해서 궁금한 분들, 오픈소스에 관심 있는 분들이 듣길 추천합니다. #kakaotech #generativeai , #nocode, #serverless, #eventualcomputing, #cloud --- 💬 발표자 인터뷰: https://tech.kakao.com/2023/05/31/monokode-stein/ ✨ 카카오 테크 페이스북: https://...
인공지능 기타 클라우드
컨퍼런스 if kakao
ChatGPT로 달라진 개발자의 일상 (황민호, Robin)
컨퍼런스 if kakao
[2023.05.11. 제1회 kakao tech meet 발표] 카카오에서 검색, 광고, 오픈소스와 관련된 여러 서비스들을 개발했습니다. 현재는 사내 개발자들의 기술 공유를 위한 사내 플랫폼을 개발 중입니다. ChatGPT 서비스 오픈 이후, 카카오 개발자의 일상 변화에 대해 함께 이야기를 나눠보고자 합니다. 이제는 일상이 되어 버린 AI 활용에 초점을 맞춰 개발 업무뿐만 아니라 여러 업무들에서 어떻게 활용하고 있는지 사례들을 공유합니다. AI 도구들을 활용하여 업무를 개선하고 싶은 분들이 듣길 추천합니다. #kakaotech #chatgpt #developer #opensource #copilot --- 💬 발표자 인터뷰: https://tech.kakao.com/2023/05/31/life-after-chatgpt/ ✨ 카카오 테크 페이스북: https://www.facebook.com/kakaotech
AI 코딩