AI API Gateway 선택 기준을 도입부터 운영까지 5단계로 정리했습니다. 여러 모델을 쓴다면 모델 다양성, 보안, 결제, 모니터링을 함께 검토해야 합니다.
AI Engineer - LLM Serving Platform
업스테이지 · 경력 3년 이상
대규모 GPU 클러스터에서 LLM 서빙 플랫폼을 설계·개발·운영하고, 라우팅·스케줄링 및 관측 체계를 구축합니다. AI 모델 서빙·실시간 추론 서비스 경험과 LLM 서빙 기술 이해, 클라우드 및 Kubernetes 운영 경험이 필요합니다.
ML 엔지니어 (LLM) (ML Engineer)
토스증권 · Seoul
금융·증권 텍스트 문제를 위한 LLM/NLP 모델을 학습·서빙·운영하고, 데이터셋 구축 및 AI 기능 설계를 담당합니다. LLM 또는 NLP 모델을 직접 개발·운영한 경험이 필요합니다.
ML 엔지니어 (ML/LLM Ops) (ML Engineer)
토스뱅크 · Seoul
ML/LLM 플랫폼과 모델 서빙·Feature Store·LLMOps 환경을 구축·운영하고, 하이브리드 클라우드 기반 GPU 워크로드를 고도화합니다. Kubernetes에서 서비스 개발·배포·운영 경험이 필수입니다.
클라우드 엔지니어
가비아 · 경력 · 과천
가비아 클라우드 인프라·시스템을 설계·운영하고 장애 해결, 오픈소스 검증, 시스템 최적화 및 자동화를 담당합니다. Linux·Windows 서버, 네트워크·보안과 Shell/Python·Ansible 기반 자동화 경험 및 모니터링 시스템 이해가 필요합니다.
Security Engineer (SOC운영/정보보안)
가비아 · 경력 · 가산
SIEM/SOAR 기반 로그 분석·이상 징후 탐지, 침해사고 대응 및 IDS/IPS·FW·WAF 등 보안 시스템 운영을 담당합니다. SOC·침해 대응 경험과 SIEM/SOAR 운영, 탐지 룰 개발, 보안 자동화 역량이 필요합니다.
정보보호 및 개인정보보호
가비아 · 경력 · 과천
가비아 서비스와 임직원의 정보보호·개인정보보호 관리체계를 수립·운영·개선하고, 보안 인증 및 수탁사 점검을 담당합니다. 관련 관리체계·인증·법규 컴플라이언스 대응 경험과 8년 이상 경력이 필요합니다.
[채용연계형] 클라우드 엔지니어(클라우드 시스템 구축/운영)
가비아 · 신입 · 과천
가비아 클라우드 인프라·시스템을 설계·운영하고, 장애 해결·오픈소스 검증·시스템 최적화 및 자동화 업무를 수행합니다. Linux·Windows 서버, 네트워크·보안 기초와 Bash 또는 Python 스크립팅, 자동화 도구 및 클라우드·가상화·컨테이너 이해가 필요합니다.
#LLM 주제를 다룬 다른 회사 글
Envoy AI Gateway로 사내 LLM 호출을 중앙화하고 모델 등급 라우팅과 사용량 추적을 구축했습니다. GitOps·관측성 기반 운영으로 모델 교체를 단순화하고 LLM 비용을 약 78% 절감했습니다.
