
호텔 검색, 어떻게 달라졌을까요? 2편 - 지식 증류
호텔 검색에서 LLM을 sLLM으로 옮기기 위해 지식 증류를 적용한 과정을 다뤘습니다. 성능과 효율을 함께 확보하기 위한 모델 선정, 데이터 구성, 학습 기법 개선을 설명했습니다.
새로운 기술 블로그가 추가되었어요

호텔 검색에서 LLM을 sLLM으로 옮기기 위해 지식 증류를 적용한 과정을 다뤘습니다. 성능과 효율을 함께 확보하기 위한 모델 선정, 데이터 구성, 학습 기법 개선을 설명했습니다.

호텔 검색의 언어 장벽과 POI 매칭 한계를 개선한 사례를 다루었습니다. 다국어 음차·번역, Dense Retrieval, Place sLLM으로 커버리지와 검색 품질을 높였습니다.

호텔 검색의 이미지 품질을 높이기 위해 플레이스 특화 CLIP 인코더를 학습했습니다. 질의와 이미지의 연관성을 강화해 대표 이미지 검색 정확도와 사용자 경험을 개선했습니다.

LLM과 블로그 POI 데이터를 활용해 호텔 검색의 복잡 질의, 다국어, 콘텐츠 부족 문제를 개선했습니다. 검색 엔진 전환과 자동 품질평가로 커버리지와 성과도 함께 높였습니다.


알라미 유저의 사용 패턴을 Feature Engineering과 KMeans 클러스터링으로 분석한 사례입니다. 숫자 결과에 해석을 붙여 페르소나처럼 설명하고 리텐션까지 확장했습니다.


LLM 지식 증류의 개념과 주요 방법론을 정리한 글입니다. Teacher 모델의 지식을 Student 모델에 이전하는 방식과 구현 접근을 소개했습니다.


DeepSeek-R1의 구조와 학습 방식, GRPO와 지식 증류의 특징을 OpenAI o1과 비교해 정리했습니다. 비용 절감과 추론 성능 강점, 한국어 적용 시 주의점도 함께 살펴봤습니다.


DocumentDB 슬로우쿼리를 수집·시각화하고, COLLSCAN 쿼리에 대해 AI로 인덱스를 추천받는 파이프라인을 구축했습니다. 이를 통해 슬로우쿼리 합계가 약 30% 감소하고 무거운 쿼리가 개선되었습니다.

LLM as a Judge를 활용해 CodeBuddy의 성능 평가를 다룬 글입니다. AI 모델과 응답 품질을 평가하는 방법론을 소개했습니다.

PyTorch 2.x의 핵심 기능인 Torch Compile을 소개하는 글입니다. 딥러닝 성능을 높이는 관점에서 PyTorch 2.0의 변화 포인트를 다뤘습니다.


Amazon Bedrock 사용자 지정 모델로 DeepSeek-R1 Distill Llama를 배포하는 방법을 안내했습니다.\n서버리스 호스팅, 비용 구조, 버전 관리와 모니터링 포인트도 함께 정리했습니다.


LLM 기반 AI 에이전트의 Tool Calling 한계를 Code Interpreter로 확장하는 흐름을 설명했습니다. Docker 샌드박스와 LangGraph로 안전하게 적용하는 예시도 함께 다뤘습니다.