WOOWA NLP 프레임워크를 활용한 자연어 처리 서비스 적용 #우아콘2023 #우아한형제들
우아콘 2023 우아한형제들 · YouTube
AI 핵심 요약
자연어 처리 기술을 서비스에 적용할 때 태스크마다 구현을 반복하고, 도메인 지식을 모델에 반영하기 어렵다는 문제를 해결하기 위해 WOOWA NLP 프레임워크를 만들었다. PyTorch Lightning 기반의 인터페이스와 배민 도메인 코퍼스로 사전 학습한 언어 모델을 활용해 분류·생성·개체명 인식·시맨틱 검색 등 다양한 태스크를 통일된 코드로 구현하고, ChatGPT뿐 아니라 Llama 2 같은 오픈 LLM도 다룰 수 있게 했다. 메뉴 분류에 텍스트 분류 모델을 적용해 자동화하고, 신뢰도가 낮거나 복수 범주에 해당하는 결과는 사람이 검수하도록 해 기존 대비 검수 인력을 93.6% 줄였다. 프레임워크는 RAG와 에이전트 기반 서비스로 확장할 계획이며, 업무에 맞는 모델 활용과 사람의 검수를 함께 설계하는 것이 중요하다고 설명했다.
- 반복되는 NLP 태스크는 토크나이저·사전학습 모델·데이터셋·트레이너의 흐름을 표준화하면 구현과 서비스 적용을 단순화할 수 있다.
- 도메인 코퍼스로 언어 모델을 추가 학습하면 범용 모델에 부족한 업무 맥락을 보완할 수 있다.
- 분류 신뢰도가 낮거나 여러 범주에 걸치는 사례는 자동 처리에 맡기지 않고 사람의 검수를 두는 방식이 유용하다.
- RAG는 검색한 외부 문서를 프롬프트에 반영하고, 에이전트는 작업 계획과 도구 실행을 이어서 목표를 수행한다.
소개
[WOOWACON2023 세션 다시보기] 👉 세션 설명 ChatGPT 열풍으로 자연어처리, 인공지능, 생성AI 등의 기술을, 어떻게 내가 담당하는 비즈니스에 효과적으로 접목시킬 수 있을까 관심 있는 분들이 많아지고 있습니다. NLP 전문 데이터 과학자로서 NLP 기술의 POC를 비교적 빠르게 구현하는 것을 돕는 프레임워크를 소개합니다. ChatGPT에만 매몰되지 않고 비교적 성능이 뛰어난 오픈 LLM들을 편리하게 사용할 수 있도록 프레임워크를 지속적으로 발전시켜 나가려 합니다.ㅤ ㅤ 👉 발표자 소개 데이터사이언스팀 김동환 자연어 처리 기술의 위대함을 알리고 싶은 데이터 과학자입니다. 다양한 서비스에 자연어 처리 기술을 효율적으로 적용하기 위해 고민하며 연구 개발하고 있습니다. ChatGPT 모델이 아니더라도 성능 좋은 오픈 LLM을 편리하게 사용하는 기술도 함께 고민하고 있습니다. 👍 추천 대상 - NLP 기술의 서비스 적용에 관심이 있으신 분 - chatGPT 뿐만...
비슷한 학습 자료
컨퍼런스 우아콘 2023
[WOOWACON2023 세션 다시보기] 👉 세션 설명 배민스토어는 올해 4월, 레거시 코드와 아키텍처를 전부 재작성하고 재설계하는 빅뱅을 겪었습니다. 그 과정에서 생산성과 효율성을 높이기 위해 여러 가지 기술을 한 번에 도입했고, 다양한 시행착오를 겪었습니다. 배민스토어의 전시 도메인 개발자들이 어떤 일을 하는지 소개하면서, Kotlin, Spring WebFlux, EDA 도입의 이유와 좋았던 점, 나빴던 점, 그리고 각 기술에 대한 개발자들의 생각까지 날것으로 풀어내 보겠습니다.ㅤ ㅤ 👉 발표자 소개 배민스토어서비스개발팀 김민태 좋은 시스템을 개발해서 밤에 약속을 나가고 싶은 개발자입니다. 배민스토어의 백엔드를 개발하며, 팀에서 광대를 담당하고 있습니다. 배민스토어서비스개발팀 오지산 좋은 코드를 써서 밤에 발 쭉 뻗고 자고 싶은 개발자입니다. 배민스토어의 백엔드를 개발하며, 팀에서 선생님을 담당하고 있습니다. 👍 추천 대상 Kotlin과 Spring WebFl...
백엔드 프로그래밍 언어
컨퍼런스 우아콘 2023
GPT(a.k.a. 뚝딱이)와 함께 하는 서비스 만들기 #우아콘2023 #우아한형제들
컨퍼런스 우아콘 2023
[WOOWACON2023 세션 다시보기] 👉 세션 설명 10월 17일, 사용자의 맥락에 맞춰 메뉴를 제안하는 서비스가 송파 지역에 베타 오픈합니다. 배달의 민족에서 처음으로 선보이는 GPT 기술 활용 프로젝트가 어떻게 생겨나게 되었는지, 어떤 고민을 거쳐 세상에 태어나게 되었는지 공유드립니다.ㅤ ㅤ 👉 발표자 소개 GPT서비스팀 오혜진 서비스 기획자, 데이터 프로덕트 PM, 데이터 분석가를 거쳐 생성 AI 기반 프로덕트를 만들고 있습니다. 👍 추천 대상 - 다양한 프로덕트 기획을 고민하는 PM - 요즘 핫하다는 GPT로 뭘 할 수 있을지 궁금한 분 - 새로운 기술을 서비스에 도입하는 험난한 과정이 궁금한 분 🙋🏻♀️ 세션에 대해 궁금한 점이 있다면 dev_relations@woowahan.com 으로 문의주시기 바랍니다.
인공지능 기타 프로덕트 매니지먼트
컨퍼런스 우아콘 2023
[WOOWACON2023 세션 다시보기] 👉 세션 설명 수많은 우여곡절 끝에 완성된 머신러닝 모델! 우리 서비스에서 “어떻게” “잘” 제공할 수 있을까? 여러 추천/ML 모델을 실제 대고객 서비스화하면서 얻은 경험과 사례들을 바탕으로 서빙 시나리오별 장단점, “더 잘 서빙하기 위해” 유의해야할 요소들, 이것들을 고려한 시스템 설계에 대해 짚어봅니다.ㅤ ㅤ 👉 발표자 소개 추천시스템 정현 아동가족학과 출신 개발자. 오디오 엔지니어 경력을 시작으로, 임베디드, 데이터에 이르기까지 다양한 개발 영역을 접해왔습니다. 2016년부터 머신러닝을 검색, 추천 등지에서 대규모 트래픽 서비스, 플랫폼화하는 일을 본격적으로 해오고 있습니다. 대규모 트래픽을 안정적으로 빠르게 처리하는 것과 분산처리, 계산 최적화에 관심이 많습니다. 👍 추천 대상 - 추천/ML 등 모델을 만들었을 때, 고객용 서비스로 어떻게 잘 제공할 수 있을지 궁금한 분 🙋🏻♀️ 세션에 대해 궁금한 점이 있다면...
백엔드 딥러닝 · 머신러닝 로드맵 1개에 담김
컨퍼런스 우아콘 2023
데이터 엔지니어가 만들어가는 레거시 #우아콘2023 #우아한형제들
컨퍼런스 우아콘 2023
[WOOWACON2023 세션 다시보기] 👉 세션 설명 데이터 엔지니어링 원칙과 현업에서 만나게 되는 문제 데이터와 시스템의 중복으로 발생하는 조직 간의 협업과 인수인계의 고민 문제와 고민을 해결하기 위한 선택과 집중ㅤ ㅤ 👉 발표자 소개 추천시스템팀 오창윤 백엔드 프론트엔드를 거쳐 데이터에 자리잡은, 그래서 다른 분야와 같으면서 다른 문제 해결 방식이 흥미로운 엔지니어 👍 추천 대상 - 데이터 엔지니어링과 서비스의 연결을 시작하는 분 🙋🏻♀️ 세션에 대해 궁금한 점이 있다면 dev_relations@woowahan.com 으로 문의주시기 바랍니다.
데이터베이스 데브옵스 · 인프라
컨퍼런스 우아콘 2023
AI 서비스 자동화 공장 만들기 #우아콘2023 #우아한형제들
컨퍼런스 우아콘 2023
[WOOWACON2023 세션 다시보기] 👉 세션 설명 기술을 통해서 경쟁사들보다 한 발짝 더 앞서나가기 위한 우아한형제들의 AI플랫폼을 소개합니다. 품질 좋은 AI 서비스를 빠르게 개발할 수 있는 체력을 어떻게 키우면 좋을까요? MLOps를 포함해 우아한형제들의 AI 서비스 개발 및 운영을 이야기합니다.ㅤ ㅤ 👉 발표자 소개 데이터사이언스팀 유이수 AI 서비스 공장 직원 1입니다. 더 번쩍번쩍한 공장을 만들기 위해 고민하고 있습니다. 데이터사이언스팀 임현호 종합예술인이 되고 싶은 생활체육인 밖구석 개발자 데이터사이언스팀 이준수 데이터사이언스팀을 리드하고 있는 소프트웨어 반지니어 👍 추천 대상 - 빠르게 AI 서비스를 만들고 싶은 분 - AI 서비스를 만드는 데 어려움이 있는 분 🙋🏻♀️ 세션에 대해 궁금한 점이 있다면 dev_relations@woowahan.com 으로 문의주시기 바랍니다.
데브옵스 · 인프라 딥러닝 · 머신러닝