Velopers
모든 블로그모든 태그AI 업체 소식채용정보NEW공지주간 인기글주간 기술 흐름

국내 IT 기업 기술 블로그 최신 글

테크블로그국내 IT 기업 기술 블로그AI 업체 소식OpenAI · Anthropic 공식 블로그
필터 1
광고 영역
LLM Knowledge Distillation 훑어보기 - part 2
데보션
2025년 4월 14일
AI

LLM Knowledge Distillation 훑어보기 - part 2

지식 증류가 student 성능 개선뿐 아니라 LLM 추론 속도 향상에도 활용된다는 점을 정리했습니다. speculative decoding과 SKD 같은 최신 방법으로 성능과 효율을 함께 높이는 흐름을 설명했습니다.

#LLM#knowledge distillation
5200
LLM Knowledge Distillation 훑어보기 - part 1
데보션
2025년 3월 10일
AI

LLM Knowledge Distillation 훑어보기 - part 1

LLM 지식 증류의 개념과 주요 방법론을 정리한 글입니다. Teacher 모델의 지식을 Student 모델에 이전하는 방식과 구현 접근을 소개했습니다.

#LLM#Knowledge Distillation
8400
AI 학습을 위한 LLM 스터디 - 배치 전략 및 어텐션 개선 방안
데보션
2025년 2월 8일
AI

AI 학습을 위한 LLM 스터디 - 배치 전략 및 어텐션 개선 방안

LLM 추론 효율을 높이기 위한 배치 전략과 어텐션 개선 방법을 정리한 글입니다. FlashAttention, 페이지 어텐션, 추측 디코딩의 개념과 장점을 설명했습니다.

#LLM#batch
3500

Powered by Velopers

소개이용약관개인정보처리방침공지사항광고 문의