AI
실험으로 알아보는 LLM 파인튜닝 최적화 가이드 Part 2.
두줄요약
LLM 파인튜닝에서 Optimizer, 학습률, 스케줄러, Warmup, 정밀도 선택 기준을 실험 결과로 정리했습니다.메모리와 안정성을 함께 고려해 AdamW 계열과 BF16, 1e-4 근처 학습률을 중심으로 검증하는 방법을 제시했습니다.
핵심 내용
- LLM 파인튜닝에서 Optimizer, Learning Rate, Learning Rate Scheduler, Warmup, Precision 최적화 방법을 실험 기반으로 정리
- AdamW 계열, Adafactor, AdamW_8bit, Paged_adamw 같은 옵티마이저별 메모리 효율과 학습 안정성 차이 비교
- 학습률 탐색은 1e-4를 기준으로 상하 범위를 실험하며, Cosine과 Linear 스케줄러, Warmup 적용으로 안정성 개선
- BF16이 FP16보다 LLM 학습에 더 안정적이며, Ampere 계열 GPU에서 사용 권장
적용해볼 점
- Full 파인튜닝에서는 메모리 상황에 따라 AdamW_8bit나 Paged_adamw_8bit 검토
- LoRA 같은 PEFT에서는 기본 AdamW 우선 적용, 부족할 때만 메모리 최적화 옵티마이저 고려
- 학습률은 단일 값 고정보다 스케줄러와 Warmup을 함께 실험해 검증
- 데이터셋 품질, 크기, 다양성까지 함께 점검