AI
케클s피드 9월호｜kt cloud summit 2026, 고객의 AX를 현실로 만드는 인프라 전략
두줄요약
AI 서비스 운영을 위한 AIDC 전력·클라우드·Composite AI 전략을 소개했습니다. RAG, 모델 선택, 추론 메모리 최적화와 MCP 활용 방안도 다뤘습니다.
구조와 흐름
- kt cloud PLATFORM 기반 Composite AI 비전과 2031년까지 20여 개 사이트·1GW 이상 AIDC 공급 로드맵
- 키노트·기술 세션·전시를 통한 AIDC·클라우드·AI 기술 및 산업 적용 사례 공유
성능/운영 포인트
- LS일렉트릭 협력 기반 전력설비 적기 공급과 MDC 최적화 전력 솔루션 공동 연구
- 송전망·변전소 용량 병목 대응을 위한 데이터센터 입지 분산, 현장 발전, ESS 활용
- MCP를 통한 Kubernetes·GitHub·ArgoCD·Slack 정보 연계와 운영 장애 분석 지원
적용해볼 점
- RAG의 TopK 조정, 재순위화, 중복 제거, 질문 기반 압축을 통한 품질·속도·토큰 비용 최적화
- 업무 목표·평가 지표에 따른 AI 모델 선택과 AI Portal·보안관제·장애관제 적용 사례 참고
- KV Cache 메모리 병목에 대응하는 HBM·DRAM·SSD·스토리지 중심 추론 인프라 설계
