“AI는 처음인데요?” 점심시간에 탄생한 사내 챗봇, 라포위키 개발기

문제 상황

• 사내 노션과 슬랙에 지식이 흩어져 있어 필요한 정보를 빠르게 찾기 어려운 상황
• AI를 잘 모르는 4명이 점심시간이라는 제한된 리소스로 챗봇을 만들어야 하는 제약

원인 분석

• 노션의 블록 기반 계층 구조와 경로 정보 부재로 문맥 파악이 어려움
• 한글·영어 혼용, 내부 약어, 오래된 문서 혼재로 검색 정확도 저하

해결 방법

• RAG 패턴과 Flask, PGVector, Gemini 조합으로 검색 후 생성 구조 구성
• 부모 경로 복원, 메타데이터 결합 임베딩, 쿼리 확장, 최신 문서 우선 정렬 적용

성능/운영 포인트

• 문서 전체 임베딩보다 청크 단위 임베딩이 정확도에 유리
• 빠른 프로토타입과 이후 마이그레이션 가능성을 고려한 보수적 기술 선택

적용해볼 점

• 사내 문서와 대화 로그를 지식 자산으로 연결하는 검색형 챗봇 활용
• 내부 용어집과 메타데이터를 검색 품질 개선에 적극 활용