AI
Continual Learning: 꾸준히 성장하는 모델을 만들기 위한 기술
두줄요약
지속 학습에서 발생하는 Catastrophic Forgetting 문제와 주요 해결 방법을 분류해 소개했습니다. 정규화, 메모리 재학습, 구조 확장, 지식 증류의 특성을 설명했습니다.
문제 상황
- 지속 데이터 스트림의 분포·태스크 변화에 따른 기존 지식 손실, Catastrophic Forgetting
- 신규 태스크 적응과 기존 지식 보존의 동시 요구
구조와 흐름
- Regularization, Rehearsal, Memory, Architectural, Knowledge Distillation의 5개 방법론 분류
- 손실 함수 제약, 과거 예제 활용, 파라미터 확장, 교사 모델 지식 전이 중심의 접근
해결 방법
- EWC의 Fisher information matrix 기반 중요 파라미터 변화 제약
- iCaRL의 exemplar 재학습과 Gradient Episodic Memory의 그래디언트 제약
- Adapter·모델 확장, replay memory와 distillation 조합
적용해볼 점
- 태스크·데이터 분포 변화에 맞춘 방법론 및 조합 선택
- 지속 학습 시스템의 데이터 샘플링, 모델 학습, A/B 테스트 운영