![[AI 인프라] RoCEv2 기반 AI GPU 클러스터 네트워크 설계 고려사항](https://img1.daumcdn.net/thumb/R800x0/?scode=mtistory2&fname=https%3A%2F%2Fblog.kakaocdn.net%2Fdna%2Fnk6L6%2FdJMcadW3Whg%2FAAAAAAAAAAAAAAAAAAAAAB6fdZLGCOMgRe0DOEX9gtMkjWKxezjIxl8AQEqLlgxc%2Fimg.png%3Fcredential%3DyqXZFxpELC7KVnFOS48ylbz2pIh7yKj8%26expires%3D1785509999%26allow_ip%3D%26allow_referer%3D%26signature%3D4GPYIWoIbHMLfEKoAo6C5MtUhZc%253D)
RoCEv2 기반 AI GPU 클러스터 네트워크 설계 시 InfiniBand와의 차이, 무손실 이더넷 구현 요소를 정리했습니다. 또한 혼잡 제어와 버퍼 설계, PFC 스톰 대응 등 운영 고려사항을 설명했습니다.
Scale-Up Ethernet Engineer
퓨리오사AI · Seoul, South Korea/Hwaseong(Dongtan), South Korea
Scale-Up Ethernet 엔드포인트·스위치 패브릭·랙 관리 체계를 구성·검증하고, AI 워크로드의 성능 저하와 오류를 계층적으로 분석·자동화하는 역할입니다. 데이터센터 Ethernet·Linux 기반 디버깅, SoC/드라이버 수준 하드웨어 분석, 랙·클러스터 통합 검증 및 Python 또는 Shell 자동화 경험이 필요합니다.
시스템 엔지니어 (GPU) (Systems Engineer)
토스 · Seoul
AI/ML 워크로드용 GPU 컴퓨팅 클러스터를 베어메탈부터 설계·구축·운영하고, GPU 인프라 로드맵·성능 최적화·자동화를 담당합니다. 대규모 Linux 서버 인프라와 GPU 기반 HPC 또는 AI 클러스터 운영 경험이 필요합니다.
AI Platform 추론 최적화 Engineer(경력)
카카오 · 경력 · 판교
Kakao AI Platform에서 LLM 추론 엔진과 Kubernetes 기반 서빙 인프라를 설계·최적화하고, 성능 측정·개선 및 서빙 기능 개발을 담당합니다. Python 또는 Go 개발 5년 이상과 Transformer·LLM, 추론 엔진 운영, GPU 프로파일링, K8s 및 CI/CD 경험이 필요합니다.
#RoCEv2 주제를 이어서 읽기
AI 학습·추론 트래픽이 기존 네트워크의 대역폭, 무손실성, 세션 관리에 주는 부담을 분석했습니다. DCI·에지 구조와 JCT를 중심으로 AI 네트워크 설계 기준을 정리했습니다.
