AI Safety & Quality 성과리더 이상호 : 안전한 AI를 위한 카카오의 노력 | if(kakao)25 Day2
if kakao 카카오 · YouTube
AI 핵심 요약
생성형 AI는 정보 압축 과정에서 환각을 만들 수 있고, 유해 정보 생성이나 프롬프트 해킹에도 취약해 서비스 이용자의 행동으로 이어질 때 위험이 커질 수 있다. 카카오는 AI 전 주기의 위험 관리 체계와 개발 가이드라인을 마련하고, 외부 출시 서비스에 안전성 검토와 승인을 적용했다. 기술 측면에서는 한국어와 문화적 맥락을 반영한 가드레일 모델 ‘카나 세이프가드’를 위험 유형에 따라 구성해 서비스에 적용하고 오픈소스로 공개했다. 발표자는 정책·기술·외부 협력을 함께 추진하고, 향후 이미지와 영상 등 멀티모달 안전성으로 범위를 넓혀야 한다고 강조했다.
- 언어 모델은 정보를 압축하는 과정에서 손실이 생기므로, 환각과 위험한 정보 생성 가능성을 전제로 설계해야 합니다.
- AI 서비스의 위험 검토는 데이터 수집부터 운영·모니터링까지 전 주기에 걸쳐 이뤄져야 합니다.
- 위험 유형과 필요한 입력 정보가 다르면 가드레일을 단일 모델로 통합하기보다 목적별로 나누는 편이 적절할 수 있습니다.
- 한국어의 높임말·유행어·문화적 맥락을 반영하려면 현지 언어에 맞춘 데이터셋과 평가가 필요합니다.
- 안전성은 한 조직만의 과제가 아니므로 오픈소스 공개와 국내외 기관 협력을 통해 생태계 차원에서 다뤄야 합니다.
소개
카카오 AI Safety & Quality 조직의 Herman입니다. 카카오에서 출시하는 AI 시스템의 높은 품질/안전성을 확보하기 위해 노력 중입니다. AI 시스템이 가지고 있는 위험성의 특징을 설명하고 이를 방지하기 위한 카카오의 노력을 소개합니다. 👇핵심만 골라보기👇 00:00 인트로 02:11 AI 시스템의 위험성 06:36 안전한 AI를 위한 카카오의 노력 (1) 정책 수립 09:24 안전한 AI를 위한 카카오의 노력 (2) 기술 개발 13:50 안전한 AI를 위한 카카오의 노력 (3) 외부 협력 14:51 향후 계획 가능성, 일상이 되다 if(kakao)25 📎 if(kakao)25 홈페이지 : https://if.kakao.com/2025 #카카오 #kakao #이프카카오25
비슷한 학습 자료
컨퍼런스 if kakao
Prompt Attack에 대항하는 공든 요새 쌓기: lab.fortress
컨퍼런스 if kakao
if(kakao)25 안전한 AI 서비스를 출시하기 위해 다양한 프롬프트 공격을 탐지하고 차단할 수 있는 가드레일 모델인 lab.fortress를 개발한 경험을 공유합니다. 초기 리서치 단계에서 얻은 인사이트를 바탕으로 데이터 구축부터 최종 모델 개발까지의 전체 프로세스를 설명합니다. 또한, 실제 서비스 도입 후의 현황과 산학협력을 통해 확장된 노하우를 전달합니다. #TECH #AI #Security 카카오뱅크에서 AI의 안전한 활용을 위한 기술을 연구하고, 이를 서비스로 구현하는 손정민(elena.son)입니다. 발표자료 보기 📍https://if.kakao.com/2025/session?sessionId=37 📍if.kakao.com if(kakao)25 홈페이지 : https://if.kakao.com/2025 #카카오 #kakao #이프카카오25
딥러닝 · 머신러닝 보안
컨퍼런스 if kakao
Kakao AI Native | if(kakaoAI)2024
컨퍼런스 if kakao
카카오는 어떻게 AI를 일상의 언어로 만들까? | if(kakaoAI)2024
컨퍼런스 if kakao
〰〰〰〰〰〰〰〰〰〰 Kakao AI Native 전략을 소개하며, 이번 if(kakaoAI)2024에서 만난 카카오테크의 이모저모를 담았습니다. 단지 서비스에 AI를 적용하는 것을 넘어 일하는 방식의 변화와 자연스러운 일상의 혁신에 이르기까지, 카카오가 AI Native Company로 나아가는 여정을 앞으로도 함께해 주세요! #AI #AInative #카카오테크 #kakaoAI #ifkakao 〰〰〰〰〰〰〰〰〰〰 카카오 개발자 컨퍼런스 if(kakaoAI)2024에서 카카오 AI 통합 브랜드 Kanana를 비롯해 AI 비전, 모델, 그리고 우리의 일상을 바꿀 새로운 AI 서비스를 처음으로 세상에 공개했습니다. 더 나은 일상을 모두에게 전하는 그날까지, 끊임없이 가깝고, 친근한 기술을 만들어 가겠습니다. 모든 연결을 새롭게 if(kakaoAI)2024 🔗 if(kakaoAI)2024 홈페이지 : https://if.kakao.com/ 🔗 Kakao Tech 홈페이지...
컨퍼런스 if kakao
카카오가 AI 서비스 개발과 운영을 위해 구축한 Kakao AI Platform (KAP)에 대해 소개합니다. KAP은 AI Ops 에 필요한 핵심 기능들(Store, Serving, Training, Agent)을 통합 제공하는 AI 플랫폼입니다. 플랫폼 엔지니어링적 접근으로 KAP을 활용해 AI 기술의 빠른 확산과 업무 생산성을 향상시킨 사례들을 소개합니다. #AI #Platform #Cloud #SaaS #AIOps #ModelOps #Data 카카오에서 AI 플랫폼을 개발하고 있는 Dennis입니다. AI 와 클라우드를 활용한 개발 라이프 사이클 자동화에 관심이 많습니다. 발표자료 보기 👉 https://speakerdeck.com/kakao/ifkakao24-17 if(kakaoAI)2024에 대한 자세한 정보는 👉 https://if.kakao.com #카카오 #이프카카오 #개발자컨퍼런스 #AI #기술 #개발 #ifkakaoAI2024
데브옵스 · 인프라 인공지능 기타
컨퍼런스 if kakao
카카오의 AI Safety Initiative를 포함하여, 이용자에게 안전한 AI 서비스를 제공하기 위한 카카오의 노력을 소개합니다. #Responsible_AI #AI_Safety 카카오 AI Safety 리더 Albert입니다. 카카오 AI 서비스의 안전성을 높이기 위한 기술과 정책 업무를 담당하고 있습니다. 발표자료 보기 👉 https://speakerdeck.com/kakao/ifkakao24-12 if(kakaoAI)2024에 대한 자세한 정보는 👉 https://if.kakao.com #카카오 #이프카카오 #개발자컨퍼런스 #AI #기술 #개발 #ifkakaoAI2024
인공지능 기타
컨퍼런스 if kakao
CTO 키노트 / Kakao AI Native | if(kakaoAI)2024 Day2
컨퍼런스 if kakao
if(kakaoAI)2024 CTO 정규돈(gd.re) 키노트 : Kakao AI Native 👇핵심만 골라보기 👇 ⏲️ Time Stamps 00:00 오프닝 01:08 카카오의 AI native 03:20 AI Native 성숙도 4단계 04:00 1단계 탐색 05:49 2단계 적용 06:26 AI Buddy, Code Buddy 22:17 KAP 25:15 AI 포인트 서비스 27:06 3단계 혁신 27:30 4단계 일상 카카오 개발자 컨퍼런스 if(kakaoAI)2024에서 카카오 AI 통합 브랜드 Kanana를 비롯해 AI 비전, 모델, 그리고 우리의 일상을 바꿀 새로운 AI 서비스를 처음으로 세상에 공개했습니다. 더 나은 일상을 모두에게 전하는 그날까지, 끊임없이 가깝고, 친근한 기술을 만들어 가겠습니다. 모든 연결을 새롭게 if(kakaoAI)2024 🔗 if(kakaoAI)2024 홈페이지 : https://if.kakao.com/
AI 코딩 인공지능 기타