Prompt Attack에 대항하는 공든 요새 쌓기: lab.fortress

소개

if(kakao)25 안전한 AI 서비스를 출시하기 위해 다양한 프롬프트 공격을 탐지하고 차단할 수 있는 가드레일 모델인 lab.fortress를 개발한 경험을 공유합니다. 초기 리서치 단계에서 얻은 인사이트를 바탕으로 데이터 구축부터 최종 모델 개발까지의 전체 프로세스를 설명합니다. 또한, 실제 서비스 도입 후의 현황과 산학협력을 통해 확장된 노하우를 전달합니다. #TECH #AI #Security 카카오뱅크에서 AI의 안전한 활용을 위한 기술을 연구하고, 이를 서비스로 구현하는 손정민(elena.son)입니다. 발표자료 보기 📍https://if.kakao.com/2025/session?sessionId=37 📍if.kakao.com if(kakao)25 홈페이지 : https://if.kakao.com/2025 #카카오 #kakao #이프카카오25