대규모 트래픽 환경의 AI·LLM 모델 서빙 아키텍처를 설계·구축·운영하고, 인게임 LLM·코딩 에이전트의 추론 가속화와 관측성·CI/CD 체계를 구축합니다. vLLM·TensorRT-LLM 적용 및 KV Cache·PagedAttention·양자화 기반 최적화 경험이 필요합니다.
경력 5년 이상SeoulLLMvLLMTensorRT-LLMKV CachePagedAttention양자화CI/CDGitOps
내 적합도 확인 중...
기업 채용정보
진행 중인 개발 직군 공고 18건을 확인하세요.
GitOps 기술 공고 2건
대규모 트래픽 환경의 AI·LLM 모델 서빙 아키텍처를 설계·구축·운영하고, 인게임 LLM·코딩 에이전트의 추론 가속화와 관측성·CI/CD 체계를 구축합니다. vLLM·TensorRT-LLM 적용 및 KV Cache·PagedAttention·양자화 기반 최적화 경험이 필요합니다.
내 적합도 확인 중...
AI/ML 기반 AIOps·옵저버빌리티 환경과 자동화 체계를 설계하고, SRE 방법론 및 Runbook 자동 실행을 전사에 확산하는 역할입니다. SRE·DevOps·Platform Engineering 경력 7년 이상과 Kubernetes, GitOps·Argo CD 기반 CI/CD 및 옵저버빌리티 구축 경험이 필요합니다.
내 적합도 확인 중...