Kakao AI Safety Initiative : AI Safety 실현을 위한 카카오의 노력 / if(kakaoAI)2024
if kakao 카카오 · YouTube
AI 핵심 요약
생성형 AI 확산과 함께 안전 사고와 악용 위험이 커지자, 카카오는 안전한 AI 서비스 제공을 위한 AI Safety Initiative를 마련했다. 이 체계는 AI 윤리 원칙, 리스크 식별·평가·대응 사이클, 이를 운영하는 거버넌스로 구성되며, 기술적 리스크와 인간의 악용·부주의에서 비롯되는 윤리적 리스크를 구분한다. 안전성 데이터셋 구축, 레드팀 테스트, 모델 정렬과 가드레일 적용을 추진하고, 법무·개인정보·보안 조직의 통합 검토와 경영진 승인 절차를 연결했다. 학계·산업계와 평가 기준을 발전시키고 한국어·한국 문화에 맞는 데이터셋을 공유하며, 이니셔티브를 기술과 서비스 변화에 맞춰 지속적으로 개선하는 것이 과제로 제시됐다.
- AI 위험을 모델 자체의 기술적 리스크와 사람의 개발·사용 과정에서 생기는 윤리적 리스크로 나누면 대응 책임과 평가 방법을 구체화하기 쉽다.
- 안전성 평가는 벤치마크 데이터셋만으로 끝나지 않는다. 레드팀 테스트와 베타 운영을 함께 활용해 악용 시도와 예측하기 어려운 실제 사용 사례를 살핀다.
- 모델 정렬과 재학습으로 해결되지 않는 유해 출력에는 가드레일을 적용하고, 통제 불가능성이 높다고 판단되면 셧다운이나 배포 중단 기준을 마련한다.
- 법무·개인정보·보안 등 관련 조직의 검토를 한곳에 모으고, 리스크 완화 조치와 경영진 승인까지 연결하는 거버넌스가 필요하다.
- 안전성 기준은 기업 내부에서만 정하기보다 학계·산업계와 평가 데이터와 분류 체계를 공유하며 국제 표준화에 참여해야 한다.
소개
카카오의 AI Safety Initiative를 포함하여, 이용자에게 안전한 AI 서비스를 제공하기 위한 카카오의 노력을 소개합니다. #Responsible_AI #AI_Safety 카카오 AI Safety 리더 Albert입니다. 카카오 AI 서비스의 안전성을 높이기 위한 기술과 정책 업무를 담당하고 있습니다. 발표자료 보기 👉 https://speakerdeck.com/kakao/ifkakao24-12 if(kakaoAI)2024에 대한 자세한 정보는 👉 https://if.kakao.com #카카오 #이프카카오 #개발자컨퍼런스 #AI #기술 #개발 #ifkakaoAI2024
비슷한 학습 자료
컨퍼런스 if kakao
카카오 AI Safety & Quality 조직의 Herman입니다. 카카오에서 출시하는 AI 시스템의 높은 품질/안전성을 확보하기 위해 노력 중입니다. AI 시스템이 가지고 있는 위험성의 특징을 설명하고 이를 방지하기 위한 카카오의 노력을 소개합니다. 👇핵심만 골라보기👇 00:00 인트로 02:11 AI 시스템의 위험성 06:36 안전한 AI를 위한 카카오의 노력 (1) 정책 수립 09:24 안전한 AI를 위한 카카오의 노력 (2) 기술 개발 13:50 안전한 AI를 위한 카카오의 노력 (3) 외부 협력 14:51 향후 계획 가능성, 일상이 되다 if(kakao)25 📎 if(kakao)25 홈페이지 : https://if.kakao.com/2025 #카카오 #kakao #이프카카오25
인공지능 기타
컨퍼런스 if kakao
Kakao AI Native | if(kakaoAI)2024
컨퍼런스 if kakao
카카오는 어떻게 AI를 일상의 언어로 만들까? | if(kakaoAI)2024
컨퍼런스 if kakao
〰〰〰〰〰〰〰〰〰〰 Kakao AI Native 전략을 소개하며, 이번 if(kakaoAI)2024에서 만난 카카오테크의 이모저모를 담았습니다. 단지 서비스에 AI를 적용하는 것을 넘어 일하는 방식의 변화와 자연스러운 일상의 혁신에 이르기까지, 카카오가 AI Native Company로 나아가는 여정을 앞으로도 함께해 주세요! #AI #AInative #카카오테크 #kakaoAI #ifkakao 〰〰〰〰〰〰〰〰〰〰 카카오 개발자 컨퍼런스 if(kakaoAI)2024에서 카카오 AI 통합 브랜드 Kanana를 비롯해 AI 비전, 모델, 그리고 우리의 일상을 바꿀 새로운 AI 서비스를 처음으로 세상에 공개했습니다. 더 나은 일상을 모두에게 전하는 그날까지, 끊임없이 가깝고, 친근한 기술을 만들어 가겠습니다. 모든 연결을 새롭게 if(kakaoAI)2024 🔗 if(kakaoAI)2024 홈페이지 : https://if.kakao.com/ 🔗 Kakao Tech 홈페이지...
컨퍼런스 if kakao
카카오가 AI 서비스 개발과 운영을 위해 구축한 Kakao AI Platform (KAP)에 대해 소개합니다. KAP은 AI Ops 에 필요한 핵심 기능들(Store, Serving, Training, Agent)을 통합 제공하는 AI 플랫폼입니다. 플랫폼 엔지니어링적 접근으로 KAP을 활용해 AI 기술의 빠른 확산과 업무 생산성을 향상시킨 사례들을 소개합니다. #AI #Platform #Cloud #SaaS #AIOps #ModelOps #Data 카카오에서 AI 플랫폼을 개발하고 있는 Dennis입니다. AI 와 클라우드를 활용한 개발 라이프 사이클 자동화에 관심이 많습니다. 발표자료 보기 👉 https://speakerdeck.com/kakao/ifkakao24-17 if(kakaoAI)2024에 대한 자세한 정보는 👉 https://if.kakao.com #카카오 #이프카카오 #개발자컨퍼런스 #AI #기술 #개발 #ifkakaoAI2024
데브옵스 · 인프라 인공지능 기타
컨퍼런스 if kakao
카카오i를 통한 AIOT 서비스의 사례와 미래 / if(kakaoAI)2024
컨퍼런스 if kakao
모든 요소기술들을 아우를 수 있는 미래 먹거리로써 사물인터넷에 연결되는 스마트 디바이스와 클라우드 플랫폼, 그리고 서비스에 인공지능이 접목된 지능화된 사물인터넷(Artificial Intelligence of Things, AIoT)이 부각되는 시대. 사람과 사물이 경계없이 연결하기 위한 카카오i의 AIOT플랫폼의 구조와 현재, 방향, 고민에 대해 공유합니다. #AIoT 디케이테크인의 AI공통플랫폼팀에서 kakaoi 대화형플랫폼 개발을 하고 있는 Ramsy와 Tristan입니다. 발표자료 보기 👉 https://speakerdeck.com/kakao/ifkakao24-2 if(kakaoAI)2024에 대한 자세한 정보는 👉 https://if.kakao.com #카카오 #이프카카오 #개발자컨퍼런스 #AI #기술 #개발 #ifkakaoAI2024
인공지능 기타 네트워크
컨퍼런스 if kakao
CEO 키노트 / 모든 연결을 새롭게 | if(kakaoAI)2024 Day1
컨퍼런스 if kakao
if(kakaoAI)2024 CEO 정신아(shina.chung) 키노트 : 모든 연결을 새롭게 👇핵심만 골라보기 👇 ⏲️ Time Stamps 00:00 오프닝 00:56 if(kakaoAI)2024 소개 02:51 카카오의 핵심 자산 07:35 카카오의 AI 브랜드, Kanana 09:37 AI 기반 서비스 19:15 AI Safety 23:54 카카오의 존재이유 카카오 개발자 컨퍼런스 if(kakaoAI)2024에서 카카오 AI 통합 브랜드 Kanana를 비롯해 AI 비전, 모델, 그리고 우리의 일상을 바꿀 새로운 AI 서비스를 처음으로 세상에 공개했습니다. 더 나은 일상을 모두에게 전하는 그날까지, 끊임없이 가깝고, 친근한 기술을 만들어 가겠습니다. 모든 연결을 새롭게 if(kakaoAI)2024 🔗 if(kakaoAI)2024 홈페이지 : https://if.kakao.com/
인공지능 기타