데보션·2025년 3월 10일

AI

LLM Knowledge Distillation 훑어보기 - part 1

LLM 지식 증류의 개념과 주요 방법론을 정리한 글입니다. Teacher 모델의 지식을 Student 모델에 이전하는 방식과 구현 접근을 소개했습니다.