![[NDC] 딥러닝으로 욕설 탐지하기](https://i.ytimg.com/vi/K4nU7yXy7R8/maxresdefault.jpg)
[NDC] 딥러닝으로 욕설 탐지하기
NDC 넥슨 · YouTube
AI 핵심 요약
금칙어 기반 욕설 탐지는 변형 표기를 쉽게 놓치고 일상적인 표현을 오탐하며, 공격적인 문맥을 구분하기 어렵다는 문제가 있었다. 이를 보완하기 위해 자모 단위 입력을 사용하는 1D CNN 욕설 분류기를 만들고, LIME과 어텐션으로 판단 근거를 확인했으며 액티브 러닝으로 라벨링 데이터를 효율적으로 선택하는 방법도 시험했다. 서든어택 운영 도구에는 욕설로 의심되는 채팅을 추출하고 신고를 제재 가능성 순으로 정렬하는 기능을 적용해 테스트했으며, 발표자는 인공지능이 운영자를 대체하기보다 검토 업무를 돕는 역할을 해야 한다고 강조했다.
- 채팅의 오타와 띄어쓰기 변형에 대응하려면 단어보다 자모 단위 입력이 유리할 수 있다.
- 액티브 러닝은 모델이 판단을 가장 망설이는 데이터를 우선 라벨링해 데이터 구축 부담을 줄이는 방식이다.
- LIME은 개별 예측의 근거를 살펴보는 데 유용하지만, 많은 문장을 처리할 때는 계산 비용이 커질 수 있다.
- 탐지 결과를 자동 제재에 바로 연결하기보다 운영자가 검토할 신고를 추리고 우선순위를 정하는 데 활용할 수 있다.
소개
NDC 2018 [딥러닝으로 욕설 탐지하기] 세션 공유드립니다. 상세 내용은 NDC Replay 홈페이지를 참고 부탁드려요. 😊 1. 발표자 성함 : 조용래 2. 발표자 소개 : 현재 넥슨 코리아 인텔리전스랩스 어뷰징탐지팀에서 욕설 탐지기 개발 프로젝트를 담당하고 있으며, 주로 게임 내 어뷰징을 탐지하는 업무를 수행하고 있습니다. 평소 딥 러닝과 자연어 처리 분야에 관심이 많으며, 이번 발표에서는 욕설 탐지 기술 뿐만 아니라 딥 러닝을 이용한 자연어 처리의 전반적인 개념과 이러한 기술들로 어떻게 게임에 도움을 줄 수 있는지 전달하고자 합니다. 3. 세션 소개 : 딥러닝 기반의 욕설 탐지기를 개발하며 시도해 본 모델링 기법들을 공유하고자 합니다. 최근 인공지능으로 인간의 언어를 이해하고 이를 서비스화 하려는 시도가 많은 가운데 이 세션은 딥러닝과 자연어 처리 기술로 현실의 문제를 푸는 데 관심이 있으신 분들에게 조금이나마 도움이 될 것이라고 생각합니다. 감사합니다. ...
비슷한 학습 자료
컨퍼런스 NDC
NDC 2019 [Game Data analysis with Deep Learning] 세션 공유드립니다. 상세 내용은 NDC Replay 홈페이지를 참고 부탁드려요. 😊 1. 발표자 성함 : 김승원 2. 발표자 소개 : 대학원에서 AI를 수학했고, 13년간 소프트웨어 엔지니어로 일했고, 그중 AI 관련 프로젝트는 5년간 진행했습니다. 현재는 게임 데이터 분석 및 게임 영상 분석에 AI를 적용하고 있습니다. 3. 세션 소개 : Game data (Tera)를 Deep Learning으로 분석했을 때 얻게 되는 장점 및 실제 구현 사례를 살펴 봅니다. 기존의 Machine Learning 방법들보다 AI (Deep Learning) 방법의 장 단점을 살펴보고 어떻게 Deep learning을 적용할지 insight를 얻을 수 있을 것입니다. 감사합니다. 본 NDC 발표 동영상(이하 “저작물”이라 합니다)에 대한 저작권 (2차적저작물작성권 및 편집저작물작성권 포함)은 해...
딥러닝 · 머신러닝
컨퍼런스 NDC
[NDC] 소프트웨어 2.0을 활용한 게임 어뷰징 검출
컨퍼런스 NDC
NDC 2018 [소프트웨어 2.0을 활용한 게임 어뷰징 검출] 세션 공유드립니다. 상세 내용은 NDC Replay 홈페이지를 참고 부탁드려요. 😊 1. 발표자 성함 : 김정주 2. 발표자 소개 : 현재 웹젠에서 TD로서 게임 로그 수집 및 분석을 담당하고 있습니다. 이전에는 NHN과 NPLUTO에서 게임 엔진 개발 및 기술 지원 역할을 하였습니다. 지난 NDC 2016에서 게임 어뷰징 검출, PyConKR 2017에서 강화학습 관련 내용을 발표한 바 있습니다. 이번 발표에서는 참관객 여러분들에게 소프트웨어 2.0의 개념과, 이를 이용해 좀 더 고도화된 게임 어뷰징 검출 방법을 소개해 드릴 예정입니다. 3. 세션 소개 : 최근 기계학습과 딥러닝의 대두는 인공지능에 대한 다양한 우려를 불러일으키고 있습니다. 그러나, 저는 개인적으로 인공지능을 데이터를 학습하여 기능을 구현하는 진보된 형태의 소프트웨어 패러다임 정도로 보고 있습니다. 딥러닝의 대가 안드레이 카패시의 소프트웨어...
딥러닝 · 머신러닝
컨퍼런스 NDC
NDC 2018 [억! 소리나는 게임 서비스 플랫폼을 지탱하는 알고리즘 - 해쉬, 확률적 자료구조, 불변데이터] 세션 공유드립니다. 상세 내용은 NDC Replay 홈페이지를 참고 부탁드려요. 😊 1. 발표자 성함 : 전이삭 2. 발표자 소개 : 현재 블리자드 엔터테인먼트 배틀넷 부문 데이터 팀에서 빅데이터 수집/분석 시스템을 개발하고 있습니다. 2001년부터 PC 및 모바일용 패키지 소프트웨어, 게임 클라이언트, 게임 배포 및 서비스 플랫폼, 서버 프레임워크, 소스 코드 정적 분석 툴 등 다양한 프로젝트들에 참여했습니다. 참여한 프로젝트들로는 나모 웹 에디터, 나모 핸드스토리, 한게임 바둑, 월드 오브 워크래프트 게임 런처, 월드 오브 워크래프트 실시간 게임 다운로드 Play on Demand 라이브러리, 배틀넷 데스크톱 앱, 오버워치 게임 클라이언트 등이 있습니다. 작년 NDC2017에서는 '더 좋은 코드를 위한 함수형 프로그래밍 - 모던 C++를 중심으로'라는 제목의 세...
알고리즘 · 자료구조
컨퍼런스 NDC
NDC 2018 ['프로젝트DH' AI 내비게이션 시스템 - 자연스러운 용의 비행을 위한 공중 내비게이션 시스템 개발기] 세션 공유드립니다. 상세 내용은 NDC Replay 홈페이지를 참고 부탁드려요. 😊 1. 발표자 성함 : 심예람 2. 발표자 소개 : 데브캣스튜디오 프로젝트DH팀에서 엔진 및 컨텐츠 개발을 담당하고있으며, 주로 몬스터의 이동제어와 전투 시스템 개발 업무를 수행해왔습니다. 이 전에는 컴퓨터 그래픽스 연구실에서 석사과정으로 절차적 노이즈 텍스처링 및 지형 렌더링을 연구하였고, 전문연구요원으로서 넥슨에 입사하여 언리얼 엔진 4 기반의 프로젝트에 참여해왔습니다. 이번 발표를 통해 취미 게임 개발자가 덕업일치에 성공해 실제 게임에 들어갈 기능을 구현해가며 겪은 경험들을 공유하고자 합니다. 3. 세션 소개 : 게임 개발자에게 AI 내비게이션은 꽤 고전적인 문제입니다. 그럼에도 불구하고, 프로젝트DH의 용이라는 생명체를 자연스럽게 비행시키기 위한 적절한 공중 AI ...
게임 프로그래밍
컨퍼런스 NDC
NDC 2018 ['야생의 땅: 듀랑고'의 데이터 엔지니어링 이야기-로그 시스템 구축 경험 공유] 세션 공유드립니다. 상세 내용은 NDC Replay 홈페이지를 참고 부탁드려요. 😊 1. 발표자 성함 : 전효준 2. 발표자 소개 : 현재 왓 스튜디오에서 '야생의 땅: 듀랑고'의 데이터 엔지니어링을 주로 담당하고 있습니다. 데이터에 관심이 많은 주니어 백엔드 엔지니어입니다. 3. 세션 소개 : 본 발표는 게임플레이 시 발생하는 로그를 수집하고 변환, 적재하고 분석기반을 제공하는 로그 시스템에 대한 '야생의 땅: 듀랑고'의 데이터 엔지니어링 이야기입니다. 듀랑고에서는 게임 플레이 시 수집되는 로그를 통해 다양한 지표를 추출하고, 분석하고, 모니터링하며 데이터 중심적 의사결정을 내리고 있습니다. 이를 위해서는 다양한 형태로 존재하는 대용량의 로그를 수집하고, 잘 활용할 수 있도록 정제하고, 분석할 수 있는 기반을 만드는 것도 중요한 요소로 자리 잡고 있습니다. 그에 따라 높은...
데이터베이스 데브옵스 · 인프라 프로덕트 지표 · 실험