모든 태그
태그

NCCL 기술 블로그 글

NCCL 태그가 달린 국내 IT 기업 기술 블로그 글을 최신순으로 모았습니다.

최근 30일 1개 · 많이 쓴 회사 AWS·스캐터랩 핑퐁·네이버 D2

전체 5개최신 5개 표시
홈에서 필터

NCCL 글을 많이 쓴 회사

최신 게시글

5개 표시

데브옵스

컨테이너처럼 쓰고, VM처럼 격리하기 3편 - Fabric Manager 파티션과 DRA를 이용한 GPU 할당

Fabric Manager 파티션 제약을 DRA와 SharedCounters로 표현해 GPU를 안전하게 할당했습니다. Kata VM 콜드 플러그 경로를 보완해 베어메탈 수준의 NCCL 대역폭을 확인했습니다.

#Kubernetes#DRA#GPU
400

데브옵스

분산 학습을 위한 AWS 컴퓨트 선택 가이드 (3편: 클러스터 구축과 운영)

분산 학습용 AWS 클러스터를 구축·운영하는 방법을 정리했습니다. Enroot와 Pyxis로 환경을 고정하고, EFA·용량 예약·장애 복구를 함께 점검해야 합니다.

#AWS#컨테이너#Slurm
1400

AI

유저와 함께 만드는 LLM 2편 — 제타에 Online Learning 도입하기

비동기 GRPO 인프라와 TIS 보정으로 rollout·학습 간 확률 불일치를 안정화했습니다. 리워드 해킹을 완화해 DPO 대비 이용시간과 리텐션을 개선했습니다.

#LLM#GRPO#RLHF
1600

AI

분산 트레이닝 관점에서의 AWS 인터커넥트 기술 소개 – AWS 환경에서 NCCL을 이용한 GPU 간 통신

AWS EFA 환경에서 NCCL이 GPU 간 집합 통신을 어떻게 최적화하는지 소개했습니다. 기본 설정과 플러그인 구조, 알고리즘 선택 원리까지 함께 정리했습니다.

#AWS#NCCL#EFA
5800

데브옵스

분산 트레이닝 관점에서의 AWS 인터커넥트 기술 소개 – AWS의 인터커넥트 기반 기술, ENI 소개

AWS EC2의 ENI와 네트워크 카드 구조, EFA 할당 규칙을 설명했습니다. p5와 p6 인스턴스의 분산 트레이닝용 네트워크 구성과 운영 포인트를 정리했습니다.

#AWS#EFA#ENI
5100