토스2024년 10월 14일데브옵스고성능 GPU 클러스터 도입기 #2: 이주하는 데이터고성능 GPU 클러스터에서 발생하는 통신 비용과 병목 구간을 하드웨어 관점에서 정리했습니다. 스토리지, 서버 내 GPU, 서버 간 통신에 맞춰 NVMe SSD, NVLink, NVSwitch, InfiniBand 선택을 제안했습니다.#LLM#GPU#NVLink2700