데보션2025년 2월 20일AI실험으로 알아보는 LLM 파인튜닝 최적화 가이드 Part 2.LLM 파인튜닝에서 Optimizer, 학습률, 스케줄러, Warmup, 정밀도 선택 기준을 실험 결과로 정리했습니다.메모리와 안정성을 함께 고려해 AdamW 계열과 BF16, 1e-4 근처 학습률을 중심으로 검증하는 방법을 제시했습니다.#LLM#파인튜닝6100
