AI 를 통해 스팸을 대응하는 카카오의 노력 / if(kakaoAI)2024
if kakao 카카오 · YouTube
AI 핵심 요약
스팸 대응을 위한 라벨링에서는 불필요한 정보가 판단을 늦추고, 정책의 모호성이 라벨 품질을 떨어뜨리는 문제가 있었습니다. 이를 개선하기 위해 UI를 단순화하고, 비전 모델과 LMM으로 판단 근거·이미지 설명·주목 영역·유사 사례를 제공했으며, RAG 정책 봇과 마진 샘플링 기반 교차 검증도 도입했습니다. 발표에서는 유해 콘텐츠 모니터링에 LLM을 적용해 분류 결과와 요약·의심 키워드·추천 정책을 운영자에게 제공하고, 출력 순서 실험으로 분류 성능 차이를 확인한 사례도 소개했습니다. AI 답변의 윤리성을 검토하는 가드레일에서는 안전·비안전·일상 데이터를 함께 구성하는 것이 중요하다는 점을 확인했으며, 라벨링 프로세스 개선으로 기존 대비 효율을 약 40% 높였다고 밝혔습니다.
- 라벨링 UI는 정보를 무조건 줄이기보다 판단에 필요한 근거를 선별해 인지 부하를 조절해야 합니다.
- 이미지 설명, 주목할 영역 표시, 유사 사례 제시는 라벨러가 판단을 비교하고 정책을 일관되게 적용하도록 돕습니다.
- RAG 정책 봇과 마진 샘플링을 결합하면 작업 중 질의응답과 검토 대상 선정을 라벨링 개선 과정에 연결할 수 있습니다.
- LLM 분류 결과의 출력 순서도 성능에 영향을 줄 수 있으므로, 실제 데이터로 순서를 비교 실험하는 것이 유용합니다.
- AI 가드레일 학습 데이터에는 안전·비안전 답변뿐 아니라 일상적인 정상 문장도 균형 있게 포함해야 합니다.
소개
LLM, LMM, RAG와 같은 관심이 높은 AI 기술들이 사람을 도와주기 위해 실제로 어떻게 활용되는지 소개합니다. 특히, 라벨링을 개선하고 유해 콘텐츠를 분류하며, AI 챗봇의 윤리성을 검토하는 방법을 실제 사례를 중심으로 다룹니다. #AI #유해콘텐츠 #라벨링 #LLM #LMM 서버 개발자에서 세월의 흐름에 이끌려 AI를 연구하고 있는 Herschel입니다. 진정한 풀스택개발자를 꿈꾸고 있습니다. 카카오에서 스팸 차단 AI를 연구하는 Zoey입니다. LLM으로 안전한 디지털 환경을 만들고자 합니다. 발표자료 보기 👉 https://speakerdeck.com/kakao/ifkakao24-16 if(kakaoAI)2024에 대한 자세한 정보는 👉 https://if.kakao.com #카카오 #이프카카오 #개발자컨퍼런스 #AI #기술 #개발 #ifkakaoAI2024
비슷한 학습 자료
컨퍼런스 if kakao
서비스에 LLM 부스터 달아주기: 요약부터 AI Bot 까지 / if(kakaoAI)2024
컨퍼런스 if kakao
카카오에서 진행했던 일부 LLM 학습 및 서빙 과정 및 결과에 대해 소개합니다. LLM을 요약과 같이 특정 specific task에 적용 하는 것 부터 시작하여, AI Bot 서비스로 발전시키는 과정에서 단계별로 발생하였던 테크니컬한 이슈들을 어떻게 해소하였는지 소개합니다. #LLM #Generative AI #service AI Alignment Joel입니다. LLM 기반 서비스를 만들기 위해 여러가지 일들을 하고 있습니다. 발표자료 보기 👉 https://speakerdeck.com/kakao/ifkakao24-59 if(kakaoAI)2024에 대한 자세한 정보는 👉 https://if.kakao.com #카카오 #이프카카오 #개발자컨퍼런스 #AI #기술 #개발 #ifkakaoAI2024
자연어 처리
컨퍼런스 if kakao
업무 효율화를 위한 카카오 사내봇 개발기 / if(kakaoAI)2024
컨퍼런스 if kakao
카카오 내에 수많은 데이터에서 원하는 데이터를 빠르게 찾아주는 '0depth 사내봇 개발기'를 공유합니다. #Data #AI #LLM #RAG 카카오 데이터 조직의 Tory입니다. 실용적이고 사용자 친화적인 AI Application을 만드는 것에 관심이 많습니다. 카카오 내에 다양한 AI 프로덕트를 생산하는 Jennie입니다. 발표자료 보기 👉 https://speakerdeck.com/kakao/ifkakao24-27 if(kakaoAI)2024에 대한 자세한 정보는 👉 https://if.kakao.com #카카오 #이프카카오 #개발자컨퍼런스 #AI #기술 #개발 #ifkakaoAI2024
AI에이전트 개발
컨퍼런스 if kakao
카카오의 AI Safety Initiative를 포함하여, 이용자에게 안전한 AI 서비스를 제공하기 위한 카카오의 노력을 소개합니다. #Responsible_AI #AI_Safety 카카오 AI Safety 리더 Albert입니다. 카카오 AI 서비스의 안전성을 높이기 위한 기술과 정책 업무를 담당하고 있습니다. 발표자료 보기 👉 https://speakerdeck.com/kakao/ifkakao24-12 if(kakaoAI)2024에 대한 자세한 정보는 👉 https://if.kakao.com #카카오 #이프카카오 #개발자컨퍼런스 #AI #기술 #개발 #ifkakaoAI2024
인공지능 기타
컨퍼런스 if kakao
카카오i를 통한 AIOT 서비스의 사례와 미래 / if(kakaoAI)2024
컨퍼런스 if kakao
모든 요소기술들을 아우를 수 있는 미래 먹거리로써 사물인터넷에 연결되는 스마트 디바이스와 클라우드 플랫폼, 그리고 서비스에 인공지능이 접목된 지능화된 사물인터넷(Artificial Intelligence of Things, AIoT)이 부각되는 시대. 사람과 사물이 경계없이 연결하기 위한 카카오i의 AIOT플랫폼의 구조와 현재, 방향, 고민에 대해 공유합니다. #AIoT 디케이테크인의 AI공통플랫폼팀에서 kakaoi 대화형플랫폼 개발을 하고 있는 Ramsy와 Tristan입니다. 발표자료 보기 👉 https://speakerdeck.com/kakao/ifkakao24-2 if(kakaoAI)2024에 대한 자세한 정보는 👉 https://if.kakao.com #카카오 #이프카카오 #개발자컨퍼런스 #AI #기술 #개발 #ifkakaoAI2024
인공지능 기타 네트워크
컨퍼런스 if kakao
스팸 콘텐츠 대응을 위한 카카오의 대규모 언어 모델(LLM) 도입 사례 (조혜연 Zoey)
컨퍼런스 if kakao
[2024.06.13. 제6회 Kakao Tech Meet 발표] 문자(text) 스팸 콘텐츠를 효과적으로 분류하기 위해 LLM을 활용한 경험을 소개합니다. 기존의 규칙 기반(Rule-Base) 스팸 콘텐츠에 LLM을 적용한 배경을 설명합니다. 스팸을 단순히 분류하는 것을 넘어, 스팸으로 판정된 이유를 설명하는 LLM의 데이터 수집 방법을 소개합니다. 특히, ‘스팸’ 분야에서 LLM을 어떤 방식으로 활용할 수 있는지에 대한 실전 경험을 중점적으로 다룹니다. 스팸 탐지에 관심 있는 누구나, 특정 도메인에 LLM을 적용해 보고 싶은 개발자에게 추천합니다. #AI #LLM #SpamDetection #TextClassification #TextGeneration 목차 - 스팸 분류를 위한 LLM 도입 배경 - 스팸 도메인 LLM 데이터 수집 과정 중 챌린지와 해결 방법 발표자: 조혜연(zoey.fully) 카카오의 다양한 서비스로 유입되는 콘텐츠에서 스팸을 분류하는 업무를 맡고 있...
딥러닝 · 머신러닝 자연어 처리
컨퍼런스 if kakao
이미지 기반 스팸 대응을 위한 카카오의 AI 기술 활용 (오창화 Herschel)
컨퍼런스 if kakao
[2024.06.13. 제6회 Kakao Tech Meet 발표] 스팸 이미지 분류를 하기 위해 시도했던 다양한 경험을 공유합니다. 2018년부터 스팸성 이미지 대응 업무에 ML/DL을 도입해온 과정에서, 다양한 문제를 만나고 이를 해결해 가는 과정에서 쌓은 경험을 공유합니다. 다양한 업무 영역에서 ML/DL 도입을 위해 고민하는 개발자에게 추천합니다. #kakaotechmeet #AI #ML #DL 발표자: 오창화(herschel.alway) 어쩌다 보니 세월의 흐름에 이끌려 백엔드 개발에서 스팸 관련한 AI 연구도 같이 하고 있는 개발자입니다. 💬 발표자 인터뷰와 비하인드 보러가기: https://tech.kakao.com/posts/625 ✨ 카카오테크 톡채널: http://pf.kakao.com/_qmkxcs ✨ 카카오테크 페이스북: https://www.facebook.com/kakaotech 카카오테크, 미래의 문턱을 낮추는 기술 https://tech.ka...
딥러닝 · 머신러닝 컴퓨터 비전