대규모 언어모델 너도 나도 업무에 사용해보자: To Beginner - 이주성_NEDAY 23.07
엔지니어링데이 2025 네이버 · YouTube
AI 핵심 요약
대규모 언어 모델을 업무에 적용하고 싶어도 어디서 시작할지, 어떤 작업에 적합한지 알기 어렵다는 점에서 출발해 ChatGPT, Bing, Bard, 하이퍼클로바 등의 사용법과 서비스를 소개했다. 요약·번역·광고 문안처럼 입력과 출력이 명확한 작업부터 시도하고, 최신 정보가 필요하면 검색 결과를 모델에 연결하며, 반복 요청은 API와 Python으로 처리하는 방법을 설명했다. 모델러에게는 큰 모델로 데이터를 생성·필터링한 뒤 작은 모델을 학습시키는 방식과, 예시·구체적 지시를 활용한 프롬프트 설계를 제안했다. 다만 환각, 최신성, 보안, 비용 문제는 남아 있으므로 결과를 검증하고 업무에 필요한 모델 규모와 사용 방식을 따져야 한다.
- 생성형 언어 모델은 입력 문맥에 이어질 텍스트를 생성하므로, 원하는 입력과 출력이 분명한 업무부터 시험해 볼 수 있다.
- 최신 정보가 필요한 작업은 검색 결과를 모델에 함께 제공하는 방식으로 보완하되, 검색을 붙여도 정확성이 보장되지는 않는다.
- 반복 작업은 API와 Python으로 묶어 처리할 수 있지만, 외부 모델에 사내 데이터를 보낼 때는 보안 정책을 먼저 확인해야 한다.
- 프롬프트에 구체적인 지시와 예시를 넣고 여러 표현을 비교해 태스크에 맞는 방식을 찾아야 한다.
- 큰 모델로 학습 데이터를 만들고 검수한 뒤 작은 모델을 학습시키면, 비용과 추론 속도를 고려한 활용 방안이 될 수 있다.
소개
네이버 사내 기술 교류 행사인 NAVER ENGINEERING DAY(7월)에서 발표되었던 세션을 공개합니다. ----- Contents Understanding팀의 이주성입니다. 네이버서치, UGC에 관한 모델링 업무를 하고 있습니다. 그중에서 텍스트위주의 데이터로부터 AI 모델링을 주로 하고 있습니다. 최근 대규모 언어모델이 핫한 트렌드로 떠오르면서 많은 사람들이 이를 활용해보고자 합니다. 업무에 대규모 언어모델을 활용한 경험을 토대로 간단한 사용법들을 공유하고자 합니다. [발표 목차] 발표개요 언어모델로 할 수 있는 것 언어모델을 사용할 수 있는 사이트 언어모델을 활용한 서비스 많은 요청에 대해 처리하기 모델러들이 활용하는 법 [세부 내용] 대규모 언어모델을 어디에 사용할 수 있는지 소개 대규모 언어모델을 사용하는 방법에 대해 소개 (외부모델, 사내모델) 이와 연관된 다양한 서비스 AI 모델러입장에서 활용할 수 있는 방향 발표 컨텐츠의 키워드 [강의 대상] 대규모 언어...
비슷한 학습 자료
컨퍼런스 if kakao
카카오톡 AI 에이전트를 위한 온디바이스 모델 최적화 및 적용
컨퍼런스 if kakao
if(kakao)25 온디바이스 환경의 제약 사항과 적용 가능한 솔루션을 소개하고, 양자화를 포함한 최적화 기술을 온디바이스에 적용하는 과정과 결과를 공유합니다. #TECH #AI #LLM 온디바이스 환경에서 언어 모델을 사용할 수 있도록 하는 것을 포함해 다양한 AI 기술을 탐색하고 적용하는 일을 하고 있는 노영만(alan.zero)입니다. 발표자료 보기 📍https://if.kakao.com/2025/session?sessionId=52 📍if.kakao.com if(kakao)25 홈페이지 : https://if.kakao.com/2025 #카카오 #kakao #이프카카오25
모바일 앱 개발 딥러닝 · 머신러닝
컨퍼런스 DEVIEW 2023
이제는 AI가 읽고(Language), 보고(Vision), 생성하는 Large-scale Multimodal의 시대입니다
컨퍼런스 DEVIEW 2023
언어 모델 기반의 범용 유저 임베딩과 이를 활용한 추천시스템 및 광고 타겟팅
컨퍼런스 DAN 2025
[팀네이버 컨퍼런스 DAN25] 사용자의 목소리를 AI로 재현하다: LLM 기반 Multi Agent UX 플랫폼 개발기 “사용자에 진심인 3명이 모여, Persona가 말하게 만들다.” 이 세션은 잘 만든 AI 시스템을 넘어, 디자이너·AI 리서처·개발자가 경험한 AI 시대의 협업 가능성을 제안합니다. 사용자 페르소나봇 NSona의 기획부터 구현, 평가까지 전 과정을 공유합니다. AI로 사용자 리서치 데이터를 실시간 협업 자원으로 전환하며, Multi-Party 대화 시스템에서 사용자와 함께 일하는 방식을 실험했습니다. 세 명은 함께 AI를 만들며 역할과 협업 구조가 바뀌는 경험을 했습니다. 디자이너는 프롬프트를 설계하고, 리서처는 로직을 에이전트 구조로 바꾸었으며, 프론트 개발자는 AI를 비평 대상으로 다뤘습니다. 중요한 건 ‘어디까지 만들었느냐’가 아니라 ‘어디서 시작점을 찍느냐’임을 깨달았습니다. 참석자분들께서 창의적, 기술적 인사이트와 함께 자신만의 AI 협업 모델을...
AI에이전트 개발 UI/UX
컨퍼런스 엔지니어링데이 2025
사용자의 목소리를 AI로 재현하다: LLM기반 Multi Agent UX플랫폼 개발기
컨퍼런스 엔지니어링데이 2025
네이버 사내 기술 교류 행사인 NAVER ENGINEERING DAY 2025 에서 발표되었던 세션을 공개합니다. 해당 발표는 팀네이버 컨퍼런스 DAN25 홈페이지(https://dan.naver.com/25/sessions/699)에서도 살펴보실 수 있습니다. [발표 내용] “사용자에 진심인 3명이 모여, Persona가 말하게 만들다” 이 세션은 잘 만든 AI 시스템을. 넘어, 디자이너·AI 리서처·개발자가 경험한 AI 시대의 협업 가능성을 제안합니다. 사용자 페르소나봇 NSona의 기획부터 구현, 평가까지 전 과정을 공유합니다. AI로 사용자 리서치 데이터를 실시간 협업 자원으로 전환하며, Multi-Party 대화 시스템에서 사용자와 함께 일하는 방식을 실험했습니다. 세 명은 함께 AI를 만들며 역할과 협업 구조가 바뀌는 경험을 했습니다. 디자이너는 프롬프트를 설계하고, 리서처는 로직을 에이전트 구조로 바꾸었으며, 프론트 개발자는 AI를 비평 대상으로 다뤘습니다. 중요한 건...
AI에이전트 개발 UI/UX
컨퍼런스 엔지니어링데이 2025
AI 경량화: 더 빠르고 저렴한 AI 서비스 - 백동원_NE DAY 23. 10
컨퍼런스 엔지니어링데이 2025
네이버 사내 기술 교류 행사인 NAVER ENGINEERING DAY(10월)에서 발표되었던 세션을 공개합니다. ----- [발표 내용] * AI 경량화 삽질기 (feat. LaRva) - Quantization과 삽질기 - Pruning과 삽질기 - Low-Rank와 삽질기 - Knowledge Distillation과 삽질기 * AI 경량화 Benefits & Risks - 전력 소모 단위에서의 AI 경량화 - 각종 논문에서의 AI 경량화 안정성 반증 - AI 경량화에서 얻을 수 있는 Benefits - AI 경량화를 할 때 대비해야 하는 Risks
딥러닝 · 머신러닝