데브옵스
Load Balancer의 타깃 불균형 요청 문제해결
두줄요약
프로모션 트래픽에서 sticky session으로 특정 타깃에 요청이 집중된 원인을 분석했습니다. 쿠키 유지 시간을 30분으로 조정하고 ECS Fargate 이관으로 재발 위험을 줄였습니다.
문제 상황
- 프로모션 시작 직후 Elastic Beanstalk 레거시 서비스의 특정 인스턴스에 요청 집중
- Nginx 포트 고갈로 약 2초간 502 응답과 일부 주문 오류 팝업 발생
원인 분석
- 라운드 로빈 설정과 달리 ELB 액세스 로그에서 특정 타깃으로의 트래픽 편중 확인
- 86,400초로 설정된 stickiness cookie로 기존 사용자의 타깃이 신규 증설 인스턴스로 전환되지 않는 구조
- 레거시 배포 전후 빌드 결과물 차이 대응을 위해 stickiness 기능 활성화
해결 방법
- stickiness 비활성화 대신 cookie duration을 30분으로 단축
- 프로모션 30분 전 capacity 증설 시점과 cookie 초기화를 맞춰 타깃 분산 개선
- 단기 설정 변경으로 이후 프로모션 장애 방지, 장기적으로 ECS Fargate 표준 환경 이관 완료
성능/운영 포인트
- Elastic Observability와 ELB 액세스 로그 기반의 타깃별 요청 분포 분석
- 경보·긴급 대응 후 RCA와 Jira 액션 아이템으로 단기·중장기 개선 관리
