감으로 맞추던 값을 식을 세워서 kubernetes 최적화하기
데브옵스
감으로 맞추던 값을 식을 세워서 kubernetes 최적화하기
두줄요약
Kubernetes 인코딩 작업의 비용·시간 변수를 수식화해 Pod 확장 임계값을 최적화했습니다. 확률 기반 마감 기준을 적용해 비용 45~74% 절감과 완료 시간 단축을 확인했습니다.
문제 상황
- VM 인스턴스 단위 Segment 분배로 인한 서비스·인프라 로직 강결합과 비효율적 확장
- Kubernetes 전환 후 오토스케일링 정책, 기동·종료 버퍼, 확장 임계값 등 상호의존 변수 증가
- 비용과 작업 완료 시간을 함께 최소화해야 하는 인코딩 최적화 과제
원인 분석
- Pod 생애주기의 기동·대기·종료 시간과 축소 중단에 따른 재작업 낭비
- 비용에는 하향, 완료 시간에는 상향 압력을 주는 Pod 확장 임계값 V
- 영상 길이 편차로 모든 작업에 적용 가능한 단일 마감 시간 부재
해결 방법
- Segment당 비용과 전체 작업 완료 시간을 Pod 단가, 처리·대기 시간, 재작업·재배달 요소로 수식화
- 비용·시간 식을 결합해 V에 따른 비용-시간 트레이드오프 경계 도출
- 완료 시간 확률 스펙트럼과 허용 초과율 기반 마감선으로 V=2 선정
성능/운영 포인트
- 모델 기반 최적화 후 작업 시간당 비용 45~74% 절감
- 전체 작업 완료 시간 14%, 느린 상위 5% 작업 완료 시간 35% 단축
- AI의 식 작성·수정 반복 비용 절감과 실측·비판적 검증의 병행
