목록 보기
RAG와 리랭커(Reranker): 검색 모델과 LLM의 상호작용
AI

RAG와 리랭커(Reranker): 검색 모델과 LLM의 상호작용

데보션
데보션
2025년 4월 8일

두줄요약

RAG에서 리랭커가 필요한 이유와 역할을 설명했습니다. 기존 방식과 LLM 기반 리랭킹, 적용 시 한계와 보완 방법도 함께 정리했습니다.

핵심 내용

  • RAG에서 벡터 검색만으로는 질문 의도와 맥락을 충분히 반영하기 어려워 리랭커가 필요
  • 리랭커는 후보 문서를 질문과의 관련성에 따라 재정렬해 LLM 입력 상단에 배치
  • 기존 Cross-Encoder와 Bi-Encoder 방식의 차이, 그리고 LLM을 활용한 Pointwise·Listwise 리랭킹 방식 소개
  • Listwise의 토큰 길이 제한은 슬라이딩 윈도우로 보완 가능

다음 읽기

#RAG 주제를 다룬 다른 회사 글

RAG 시스템의 재순위화(Reranking): 구조와 발전부터 리랭커 선정까지

RAG 재순위화의 구조와 기술 발전, 운영 설정, 모델 선정 기준을 정리했습니다. 한국어 기업 문서 실험으로 정확도·속도·GPU 비용의 차이를 비교했습니다.

CSLEE
CSLEE
AI
전체 보기

댓글 0개

댓글을 작성하려면 로그인이 필요합니다.

댓글을 불러오는 중...