HyperCLOVA 요약 서비스: Long-Form Open-Domain Dialogue Summarization
DEVIEW 2023 네이버 · YouTube
AI 핵심 요약
클로바 노트의 긴 회의·강연 대화를 요약할 때는 반복과 간투어, STT 오류뿐 아니라 모델 입력 길이 제한과 주제별 요약 제어가 문제였다. 발표팀은 HyperCLOVA를 생성형 요약에 맞게 튜닝하고, AI 허브 대화 데이터로 먼저 LoRA 학습한 뒤 약 3천 건의 서비스형 주석 데이터로 추가 학습해 요약 형식과 일관성을 맞췄다. 긴 문서는 문장 문맥을 활용하는 토픽 세그멘테이션으로 나눈 뒤 각 단락을 요약했으며, 임계값과 휴리스틱 후처리로 세그먼트 크기를 조정했다. 이 접근을 클로바 노트와 웹 플러그인 등에 적용했고, 일본어 요약과 상담센터 활용도 개발·검토하며 요약을 사용자 목적에 맞게 확장하는 과제를 제시했다.
- 대화 요약은 반복·간투어·STT 오류가 많으므로 문장을 그대로 뽑기보다 생성형 요약을 사용하되, 핵심 표현을 복사하도록 학습시킨다.
- 자연어 인스트럭션을 템플릿으로 두면 모델이 요약 태스크를 일관되게 수행하는 데 도움이 된다.
- AI 허브 대화 데이터로 먼저 LoRA 튜닝한 뒤 서비스에 맞춘 소량의 주석 데이터로 추가 튜닝하는 2단계 학습을 적용했다.
- 긴 문서는 문장 쌍의 문맥을 고려해 토픽 경계를 찾고, 임계값과 휴리스틱 후처리로 세그먼트 길이와 개수를 조절한다.
- 짧은 입력에서의 과도한 생성이나 중복 요약은 최소 입력 길이와 문장 간 유사도 검사 같은 후처리로 보완할 수 있다.
소개
* 발표자 : 김형준, 정승환(NAVER Cloud) * 발표제목 : HyperCLOVA 요약 서비스: Long-Form Open-Domain Dialogue Summarization * DEVIEW 2023 바로가기: https://deview.kr/2023 #DEVIEW #DEVIEW2023 #데뷰 #데뷰2023
비슷한 학습 자료
컨퍼런스 DEVIEW 2023
클로바노트의 두뇌: NAVER의 End-to-End 음성인식 엔진 소개
컨퍼런스 DEVIEW 2023
이해, 생성, 효율: 세 마리 토끼 다 잡는 Seq2Seq HyperCLOVA
컨퍼런스 DEVIEW 2023
CLOVA Vision: 네이버 AI, Cloud, IP카메라의 만남. 일본 AI Cloud Camera 도전기
컨퍼런스 DAN 2024
[ENG][DAN 24] KEYNOTE 03: HyperCLOVA X
컨퍼런스 DAN 2024
TEAM NAVER CONFERENCE DAN 24 KEYNOTE 03 HyperCLOVA X: Expansion of Fundamental Technology Introducing how HyperCLOVA X is evolving and share the significance of developing our 'own' technology, including the objectives we are striving to achieve. - To view English subtitles, please select English in the subtitle settings. - Learn more about DAN 24: https://dan.naver.com
딥러닝 · 머신러닝
컨퍼런스 DAN 2024
[DAN 24][KEYNOTE 03] HYPERCLOVA X: 원천 기술의 확장
컨퍼런스 DAN 2023
[TEAM NAVER CONFERENCE DAN 23] NAVER's generative AI, HyperCLOVA X, was unveiled at DAN 23. Discover the game-changing technologies showcased at DAN 23, including enhanced NAVER search, innovative NAVER shopping solutions, and much more. Check out our session-by-session videos. 🔗 Learn more about DAN 23: https://campaign.naver.com/dan23_en/
인공지능 기타