쿠버네티스로 여는 AI 추론 인프라
쿠버네티스와 AWS EKS를 활용해 LLM 추론 인프라를 안정적으로 운영하는 방법을 설명했습니다. 특히 KV 캐시를 고려한 라우팅과 prefill/decode 분리를 통해 성능과 비용을 함께 개선하는 흐름을 다뤘습니다.


쿠버네티스와 AWS EKS를 활용해 LLM 추론 인프라를 안정적으로 운영하는 방법을 설명했습니다. 특히 KV 캐시를 고려한 라우팅과 prefill/decode 분리를 통해 성능과 비용을 함께 개선하는 흐름을 다뤘습니다.

Airflow 3.x는 실행과 오케스트레이션을 분리하고, 시간 중심 스케줄링을 Asset·이벤트 중심으로 확장했습니다. DAG 버저닝과 `airflow.sdk`로 안정성과 추적성을 높이며 범용 워크플로우 플랫폼으로 이동했습니다.

보안관제 티켓을 읽어 WAF 차단을 자동화한 개발기를 정리했습니다. 속도보다 오차단 방지와 fail-safe 구조를 우선해 장애 없이 운영한 사례입니다.

Airflow DAG 파싱 최적화는 메트릭 기반 측정과 설정 튜닝, 코드 위생 점검이 핵심입니다. 특히 Airflow 3.x의 설정 이동과 ignore 문법 변경을 함께 확인해야 했습니다.

매주 Git 커밋 로그를 자동 수집해 Obsidian과 Confluence로 주간 업무 정리를 자동화한 사례를 소개했습니다. 50분 걸리던 작업을 5분으로 줄이고, 멱등한 발행과 정기 실행까지 구성했습니다.

온프레미스 HPC 클러스터를 8단계로 쌓는 순서와 의존성을 정리했습니다. 기본 설정, GPU 스택, 스토리지, 스케줄러, 모니터링, 자동화가 핵심입니다.

AWS CDK로 Vision AI 서빙 파이프라인을 구성한 실전 사례를 다뤘습니다. 배포 자동화, 타임아웃 대응, 비용 최적화까지 운영 관점을 함께 정리했습니다.

Argo CD Image Updater로 이미지 태그 갱신과 배포 연결을 자동화하는 방법을 정리했습니다. Jenkins 중심 파이프라인을 GitOps 기반으로 경량화한 구성도 함께 설명했습니다.

KubeVirt GPU VM에 PCoIP Graphics Agent를 연동해 원격 그래픽 가속 환경을 구성했습니다. 또한 Air-Gap 환경용 오프라인 라이선스 서버와 GPU 최적화 설정을 적용했습니다.

KubeVirt GPU VM에 PCoIP Graphics Agent를 연동해 원격 그래픽 환경을 구축했습니다. 또한 Air-Gap 환경용 오프라인 라이선스 서버를 설치해 내부망에서도 정상 인증되도록 설정했습니다.

KubeVirt GPU VM을 위해 Ceph CSI와 RBD PVC를 연동하고 OS 이미지를 영구 rootdisk로 구성했습니다. 또한 Multus Bridge 네트워크와 CPU pinning, GPU Passthrough 설정으로 VM을 안정적으로 생성했습니다.

AWS의 Regional NAT Gateway를 소개하고, VPC 전체를 대상으로 한 자동 확장 구조와 운영 특징을 정리했습니다. 기존 Zonal 방식과의 차이, 비용 및 보안 포인트도 함께 설명했습니다.

쿠버네티스에서 VM을 관리하기 위한 KubeVirt와 GPU Passthrough 설정 과정을 다루었습니다. vfio-pci 바인딩, GPU Operator, CPU 전용 할당으로 GPU VM 기반을 마련했습니다.

Docker 빌드 중 의존성 충돌로 패키지 버전이 바뀌는 문제를 확인하는 방법과 원인을 설명했습니다. 최초 설치 단계에서 버전을 명시해 재설치를 막는 해결책도 제시했습니다.

Omniverse Kit App을 빌드해 OVAS와 WebRTC 스트리밍으로 연동하는 과정을 정리했습니다. Kubernetes 배포, 샘플 클라이언트 테스트, 연결 실패 원인 확인까지 다뤘습니다.

OpenStack 라이브 마이그레이션의 실제 수행 단계와 libvirt 호출 흐름을 정리했습니다. Nova가 플래그와 파라미터를 구성하고 libvirt가 VM 이전을 처리하는 구조를 설명했습니다.
![[2편] OpenStack Live migration workflow (live migration operation)](https://devocean.sk.com/thumnail/2025/11/11/4bcc8e58ba89256fed755e0a193ab969b6df3a21f36fbaf3625ea45c8fb3557e.png)
Airflow Breeze Manager는 여러 브랜치를 병렬로 개발할 때 발생하는 포트 충돌과 환경 재구성을 줄이기 위해 소개되었습니다. 각 브랜치에 독립된 Breeze 환경을 자동으로 구성해 빠른 전환과 작업을 돕습니다.

온프레미스 Omniverse App Streaming(OVAS)을 Helm과 Kubernetes 리소스로 설치·구성하는 과정을 정리했습니다. 설치 중 발생한 오류와 해결 방법, 외부 DNS 연동 방식까지 함께 설명했습니다.
