호텔 검색, 어떻게 달라졌을까요? 2편 - 지식 증류
호텔 검색에서 LLM을 sLLM으로 옮기기 위해 지식 증류를 적용한 과정을 다뤘습니다. 성능과 효율을 함께 확보하기 위한 모델 선정, 데이터 구성, 학습 기법 개선을 설명했습니다.

호텔 검색에서 LLM을 sLLM으로 옮기기 위해 지식 증류를 적용한 과정을 다뤘습니다. 성능과 효율을 함께 확보하기 위한 모델 선정, 데이터 구성, 학습 기법 개선을 설명했습니다.
호텔 검색의 언어 장벽과 POI 매칭 한계를 개선한 사례를 다루었습니다. 다국어 음차·번역, Dense Retrieval, Place sLLM으로 커버리지와 검색 품질을 높였습니다.
호텔 검색의 이미지 품질을 높이기 위해 플레이스 특화 CLIP 인코더를 학습했습니다. 질의와 이미지의 연관성을 강화해 대표 이미지 검색 정확도와 사용자 경험을 개선했습니다.
LLM과 블로그 POI 데이터를 활용해 호텔 검색의 복잡 질의, 다국어, 콘텐츠 부족 문제를 개선했습니다. 검색 엔진 전환과 자동 품질평가로 커버리지와 성과도 함께 높였습니다.
네이버 홈피드는 검색과 다른 서비스의 사용자 컨텍스트를 함께 활용해 개인화를 강화했습니다. LLM 기반 AiRScout로 관심 주제 추출과 검색 의도 세분화를 수행해 추천 품질을 높였습니다.
검색어와 문서를 함께 고려해 사용자 의도를 세분화하는 LLM 기반 모델을 설계했습니다. 이를 통해 추천의 맥락 정확도를 높이고 CTR도 개선했습니다.
홈피드 추천 고도화를 위해 LLM으로 사용자 관심 주제를 세분화하는 분류기와 선호도 추출 방식을 소개했습니다. 데이터 증강과 지식 증류, 가이드 생성으로 안정성과 클릭률 개선 효과를 확인했습니다.
LLM으로 연관성 점수와 랭킹 레이블을 생성해 검색 결과에 최신성을 반영한 RRA-T 개선 사례를 다뤘습니다. 사용자 클릭 로그와 하이퍼파라미터 튜닝을 통해 최신 문서 노출과 검색 품질의 균형을 맞췄습니다.
롱테일 질의의 검색 랭킹을 개선하기 위해 LLM의 재순위화 능력을 경량 랭커로 이식한 방법을 다루었습니다. 정답 데이터셋 구축과 지식 증류로 성능과 추론 효율을 함께 확보했습니다.
네이버는 서치피드 SURF로 검색을 결과 나열이 아닌 연속적 탐색 경험으로 확장했습니다. LLM 기반 임베딩, 맥락텍스트, 실시간 피드백으로 개인화와 최신성을 함께 강화했습니다.
네이버 홈피드 썸네일을 AI와 VLM으로 개선해 CTR을 높인 사례를 소개했습니다. 기술 적용과 함께 예쁜 썸네일의 기준을 분석한 점이 핵심입니다.
서비스용 LLM을 성능 저하 없이 소형화하는 경량화 레시피를 소개했습니다. 제목 추천과 키워드 추출 사례로 실무 적용 방식을 다뤘습니다.
대규모 검색 재순위화를 위해 LLM 서빙 프레임워크와 최적화 방법을 비교하고, TRT-LLM과 Triton 조합을 채택했습니다. 양자화, 배치 조절, OpenTelemetry와 대시보드로 성능과 운영 가시성을 함께 확보했습니다.
네이버 통합검색의 LLM 기반 실시간 재순위화 서빙 아키텍처와 고부하 대응 방법을 정리했습니다. 원격 캐시, 비동기 호출, 스로틀링으로 검색 서버 보호와 응답 시간 최적화를 다뤘습니다.
LLM 애플리케이션 개발에서 프롬프트 관리와 평가 반복의 어려움을 해결하기 위해 도구를 직접 개발한 경험을 공유했습니다. 프롬프트 버저닝, 테스트 데이터셋 관리, 평가를 통합해 개발과 의사결정을 단순화했습니다.
LLM을 이용한 자동 코드 리뷰 도입 경험을 공유하는 발표입니다. 기업 사례, 아키텍처, 활용 방식과 향후 방향을 함께 다루었습니다.
CLOVA for Writing의 LLM 기반 긴 블로그 초안 생성 기법 WritingPath를 소개한 세션입니다. 글쓰기 생산성과 평가 방법을 함께 다루며 체계적인 작성 흐름을 제안했습니다.
네이버 쇼핑라이브의 긴 영상에서 숏클립용 하이라이트를 자동 검출하는 Sinossi 기술을 소개했습니다. 행동 인식과 키워드 추출 파이프라인으로 실제 서비스 적용과 확장 방향까지 다뤘습니다.