이 게시물은 Amazon SageMaker HyperPod를 이용해 슈퍼브에이아이의 비전 파운데이션 모델 ‘ZERO’를 대규모 분산 학습으로 효율적으로 학습하고 워크플로우와 인프라 최적화를 설명한 글입니다.

핵심 내용

• 데이터: 10억 장 원시에서 산업용 의미 있는 400만 장 선별 및 Arrow 포맷으로 1GB 샤드 약 1200개로 변환
• 인프라 선택 사유: HyperPod의 인스턴스 유연성, EFA 기반 고성능 네트워크, 최신 AMI로 의존성 설치 용이
• 워크플로우: 리허설(저렴 인스턴스)로 사전 검증 후 Training Plan 예약한 고성능 클러스터로 전환
• 스토리지·성능 팁: S3에서 FSx for Lustre로 매핑 및 사전 로드로 데이터 로딩 시간 단축, Hugging Face Datasets 사용 시 Arrow 변환 권장
• 운영·모니터링: sbatch 예시 및 Slurm 재구성, provisioning_parameters.json 편집, WandB·텔레그램 알람으로 학습 추적