중고거래 시멘틱서치 도입기: 꽁꽁 얼어붙은 키워드 위로 벡터가 걸어다닙니다 | 2024 당근 테크 밋업
당근 밋업 당근 · YouTube
AI 핵심 요약
키워드 매칭만으로는 ‘겨울’처럼 직접 언급되지 않은 관련 상품이나 의미가 가까운 상품을 찾기 어려워, 당근은 중고거래 검색에 Two-tower 기반 EBR을 도입했다. 검색어·상품 임베딩을 각각 만들고 채팅 데이터를 학습에 활용했지만, 데이터가 부족한 롱테일 검색어에서 성능이 떨어져 사전학습 임베딩의 검색 결과를 점검해 추가 학습이 필요한 검색어를 찾고 클릭 데이터로 보강했다. 평가는 소규모 휴먼 라벨과 검색 의도별 가이드라인을 만든 뒤 LLM 평가자를 튜닝해 확장했으며, 발표에서는 롱테일과 일반 검색어 모두에서 개선을 확인했다고 설명했다. 핵심 교훈은 데이터 양만 늘리기보다 취약한 검색어를 선별해 보강하고, 적은 사람 라벨을 체계적인 평가로 확장하는 것이다.
- Two-tower 모델은 검색어와 상품의 입력 형태가 다를 때 각각 별도 인코더를 두고, 클릭·채팅 같은 피드백 쌍으로 두 벡터 공간을 정렬한다.
- 채팅 데이터는 클릭보다 적지만 의도가 더 명확할 수 있으므로, 데이터 규모뿐 아니라 라벨의 노이즈와 롱테일 검색어 성능을 함께 고려한다.
- 사전학습 임베딩으로 검색 결과의 부적절 비율을 점검하면 추가 학습이 필요한 검색어를 선별해 데이터 증강 범위를 좁힐 수 있다.
- 평가 가이드에서 검색어 유형과 핵심·부차 의도를 정의하면 사람 라벨의 일관성을 높이고, 이를 바탕으로 LLM 평가자를 튜닝할 수 있다.
- 유사도 임계값은 리트리벌 결과의 품질과 커버리지에 영향을 주므로, 임계값 아래의 노이즈를 랭킹 단계에서 어떻게 처리할지도 함께 설계한다.
소개
중고거래에서 ‘겨울’을 검색하는 유저의 검색 의도는 무엇일까요? 키워드 매칭 기반의 검색이라면, 유저는 ‘겨울’이라는 단어가 들어간 중고거래 물품들만을 보게 돼요. 하지만 검색어가 직접적으로 언급되지 않은 ‘다운 패딩’ 같은 겨울 의류들은 검색되지 않을 거예요. 검색실에서는 EBR(Embedding-Based Retrieval)을 통해 유저들의 다양한 중고거래 검색 의도를 좀더 잘 이해할 수 있는 모델을 만들고 있어요. EBR을 사용하면 ‘겨울’이라는 단어가 등장하지 않더라도 의미가 가까운 겨울 관련 물품들이 발견될 수 있어요. 이 세션에서는 수억 건에 달하는 당근 중고거래 클릭 데이터로 Two-tower 기반의 EBR 모델을 효율적으로 학습하는 방법과 아주 적은 Human Label에 LLM을 더해 모델을 평가하는 방법을 공유해요. 🥕 영상을 보고 당근에 관심이 생기셨다면 채용 공고를 확인해보세요! https://about.daangn.com/jobs/
비슷한 학습 자료
컨퍼런스 당근 밋업
지역 기반으로 중고거래 검색을 샤딩하라 | 2024 당근 테크 밋업
컨퍼런스 당근 밋업
대용량, 대규모 데이터를 다룰 때 샤딩(sharding)은 필수적으로 고려해야 하는 요소예요. 하지만 샤딩을 잘 적용하기란 결코 쉬운 일이 아니에요. 저희 검색플랫폼팀은 대규모의 중고거래 게시글을 샤딩하면서 지역 기반이라는 서비스 특성까지 고려해야 했고, 이를 프로덕션에 적용하여 좋은 결과를 만들어냈어요. 이 세션은 지역 기반 샤딩 적용 과정을 소개하면서, 검색에 대한 배경지식 없이도 성능 개선과 비용 개선을 위해 샤딩을 적용하려고 검토 중인 분들께 좋은 인사이트가 되길 바라요. 🥕 영상을 보고 당근에 관심이 생기셨다면 채용 공고를 확인해보세요! https://about.daangn.com/jobs/
백엔드 데이터베이스
컨퍼런스 당근 밋업
“여친이랑 혜어져서… 받은거…. 정리합니다 ㅠㅠ!!…”, “☆ㅍㅖ업정리☆ 눈물을 머금고… 아쉽지만 싸게 던져요ㅠ”와 같은 중고거래 게시글을 본 적 있으신가요? 비정상 기기, 위변조된 APK 등 부적절한 방법을 사용하는 어뷰저들의 게시글이에요. 이들은 실시간으로 게시글 작성 패턴을 바꾸며 탐지를 회피해요. 한 시간 전에는 이별했다며 등장하고, 한 시간 후에는 눈물을 흘린다며 판매를 시도하죠. 이 게시글들은 사람이 보기에 공통점이 있지만 supervised learning으로 학습된 모델은 공통점을 캐치하기 어려워하고, 판매 물품에 대해 큰 편향(bias)을 보였어요. 또한 제목 생성기, 이미지 세탁기 등 매크로 프로그램을 사용하는 어뷰저의 속도를 supervised learning으로 따라가기에도 한계가 있었어요. 그래서 서비스 운영실에서는 LLM을 활용한 zero shot 추론에 도전했어요. 또한 임베딩 벡터를 생성하고 벡터 DB인 Pinecone을 사용해서 유사한 제목과 이미지를...
AI에이전트 개발 자연어 처리
컨퍼런스 당근 밋업
LLM을 프로덕션에 적용하며 배운 것들 | 당근 ML 밋업 1회
컨퍼런스 DEVIEW 2023
언어 모델 기반의 범용 유저 임베딩과 이를 활용한 추천시스템 및 광고 타겟팅
컨퍼런스 DAN 2025
[팀네이버 컨퍼런스 DAN25] From Trend to You: 숏텐츠 키워드 추천의 개인화
컨퍼런스 DAN 2025
[팀네이버 컨퍼런스 DAN25] From Trend to You: 숏텐츠 키워드 추천의 개인화 숏텐츠는 최신 인기 문서의 핵심 정보를 생성형 AI가 요약해 제공하는 숏폼형 검색 콘텐츠로, 사용자가 한 화면에서 빠르게 트렌드를 파악할 수 있도록 설계된 서비스입니다. 발표에서는 먼저 숏텐츠로 선정될 수 있는 키워드와 문서의 조건을 정의하고, 서비스에 활용되는 트렌드 탐지 방법론을 소개합니다. 이어서 키워드-문서 매칭 모듈을 통해 트렌드 키워드와 관련 문서를 연결하고, 이를 기반으로 맥락적 연관성을 확보하는 과정을 설명합니다. 또한 LLM을 활용하여 키워드가 주목받은 이유를 설명하는 ‘맥락 키워드’를 생성하고, 이를 서비스에 적용하는 사례를 다룹니다. 이어지는 개인화 모델링 파트에서는 사용자별 자질을 발굴하고, Deep & Cross Network 기반 Keyword Ranker를 활용해 추천 정확도를 높이는 방법을 제시합니다. 더 나아가 LLM 기반 Ranker인 Spea...
딥러닝 · 머신러닝 프로덕트 지표 · 실험
컨퍼런스 엔지니어링데이 2025