AI
오늘의집 검색 - 모든 언어와 도메인을 아우르는 일반화된 Retrieval 시스템 만들기
두줄요약
다국어·다도메인 검색을 위해 BGE-M3를 도메인 파인튜닝하고 128차원 벡터 검색을 적용했습니다. LLM 기반 학습 루프와 임베딩 최적화로 검색 관련성과 CTR을 높였습니다.
문제 상황
- 키워드 매칭 중심 검색의 문맥 이해 한계와 Mid-Tail 쿼리의 낮은 결과 관련성
- 한국어·영어·일본어와 상품·콘텐츠·시공을 함께 다루는 다국어·다도메인 검색 요구
선택 이유
- Dense·Sparse·ColBERT를 함께 학습하는 BGE-M3의 다국어 Retrieval 적합성
- Matryoshka Representation Learning 기반 저차원 임베딩과 인덱스 효율성
- ColBERT 토큰 정렬을 통한 검색어·문서 매칭 근거 해석 가능성
구조와 흐름
- 유저 인터랙션 데이터 기반 BGE-M3 도메인 파인튜닝과 Spread-Out Regularizer 적용
- 문서 기반 LLM 검색어 생성, 후보 추출, LLM 리랭킹, Positive·Negative 학습 데이터 구축의 Model-in-the-Loop
- Text Embeddings Inference 기반 쿼리 추론 서버와 128차원 벡터 서비스 적용
성능/운영 포인트
- 128차원에서 1024차원 대비 작은 성능 저하와 100만 Float32 벡터당 약 512MB 인덱스 규모
- 평균 4~6ms 추론 응답속도, 유저 인터랙션 2.45% 및 CTR 2.82% 상승
- Alignment·Uniformity Loss 균형과 NDCG 기반 임베딩 품질 점검
