생성과 검색의 하모니: RAG로 더 똑똑한 AI 만들기
AI
생성과 검색의 하모니: RAG로 더 똑똑한 AI 만들기
두줄요약
RAG는 외부 문서를 검색해 LLM 답변에 반영하는 방식으로, 최신성 부족과 환각 문제를 보완했습니다. 실전 적용 시에는 데이터 품질, 검색 성능, 지연 시간, 보안까지 함께 고려해야 했습니다.
핵심 내용
- RAG는 외부 문서를 검색해 LLM 생성에 반영하는 검색 강화 생성 방식
- 최신성 부족, 환각 현상, 도메인 전문성 한계를 보완하는 접근
- Retriever와 Generator의 분리된 역할로 사실 기반 답변 품질 향상
구조와 흐름
- 질문 입력 → 관련 문서 검색 → 검색 문서 기반 답변 생성의 2단계 흐름
- 임베딩, 벡터 검색, 유사도 기반 검색이 Retriever의 핵심 요소
- 검색된 문서를 참고해 Hallucination을 줄이고 답변 자연스러움 유지
선택 이유
- 모델 재학습 없이 외부 데이터로 지식 업데이트 가능
- 기업 내부 문서, 최신 정보, 민감한 데이터 반영에 유리
- OpenAI+VectorDB, Hugging Face, AWS Bedrock, Self-Hosted 등 환경별 선택지 존재
주의할 점
- 검색 품질이 낮으면 답변 품질도 함께 저하
- 검색+생성 구조로 인한 응답 지연 가능성
- 검색 문서의 진위 검증, 데이터 품질 관리, 보안과 개인정보 보호 필요
적용해볼 점
- PDF 문서와 벡터 DB를 연결한 간단한 RAG 실습 구성
- 문서 로딩, 청킹, 임베딩, 유사 문서 검색으로 기본 파이프라인 구현
- 실제 적용 시 Prompt 설계와 Latency 최적화까지 함께 고려
