최신 AI/ML 모델의 GPU 기반 서빙 시스템과 대규모 트래픽 대응 백엔드를 설계·개발하고, MLOps 환경·CI/CD 파이프라인·성능 모니터링을 구축·운영합니다. Java·Kotlin 및 Docker·Kubernetes 경험과 AI 모델 서빙/MLOps, GPU 서빙 시스템 구축·운영 경험이 필요합니다.
내 적합도 확인 중...
공고 내용
업무 내용
개발 완료된 최신 AI/ML 모델(LLM, Vision 등)을 활용하여, 안정적인 모델 서빙 시스템과 대규모 트래픽에 대응 가능한 서비스 백엔드 시스템을 설계 및 개발하고, 효율적인 운영을 위한 MLOps 환경 구축과 파이프라인 자동화, 나아가 데이터 기반의 성능 분석을 통해 서비스를 지속적으로 개선하고 고도화하는 개발 및 운영 업무를 수행합니다.
AI 모델 서빙 시스템 구축 및 MLOps 운영
- GPU 기반 모델 서빙 시스템 구축
- Triton, vLLM 등 최신 AI 모델 서빙 프레임워크를 활용하여 고성능/고효율 서빙 시스템 설계 및 구축
- 대규모 트래픽 처리를 위한 서빙 아키텍처 최적화 및 운영
- MLOps 환경 구축 및 자동화
- Kubernetes/Container 기반의 GPU 클러스터 운영 및 자원 관리
- 모델 서빙을 위한 CI/CD 파이프라인 설계 및 구축
- 모델 서빙 성능 모니터링, 로깅 시스템 구축 및 운영
AI 서비스 백엔드 플랫폼 개발
- 백엔드 시스템 개발
- Java, Kotlin 및 Spring/Spring Boot 기반의 AI 서비스 플랫폼 개발
- AI 서비스를 위한 핵심 비즈니스 로직 및 공통 기능 개발
- API 설계 및 연동
- AI 모델 서빙 시스템과의 연동을 위한 RESTful API/gRPC 인터페이스 설계 및 구현
자격 요건
- 컴퓨터공학 등 관련 분야에서 학사 이상의 학위를 보유하신 분
- 3년 이상의 백엔드 서비스 개발 경력을 보유하신 분
- Docker, Kubernetes 등 컨테이너 환경에 대한 이해 및 사용 경험을 보유하신 분
- Java, Kotlin 언어 사용 경험을 보유하신 분
우대 사항
- AI 모델 서빙/MLOps 경력을 보유하신 분
- 대규모 서비스 백엔드 시스템 설계 및 개발/운영 경험을 보유하신 분
- Triton, vLLM 등 서빙 프레임워크를 활용한 GPU 기반 모델 서빙 시스템 구축 및 운영 경험을 보유하신 분
팀 소개
우리 조직은 고객 비즈니스와 임직원 업무 환경의 혁신을 목표로, 대외 고객과 사내 임직원들을 위한 AI 서비스 개발 및 운영 업무를 수행합니다.




