10억 명 이상 ChatGPT 사용자를 위한 온라인 스토리지 급속 확장(2부)

핵심 발표

• Habitat의 기반 스토리지인 Azure Cosmos DB를 대규모 글로벌 트래픽에 맞춰 확장한 과정 소개
• 신뢰성, 성능, 개발자 생산성 간 트레이드오프를 바탕으로 한 멀티테넌시 설계 전환

주요 변화

• 기본 멀티테넌트 컨테이너에서 중요 워크로드의 단일 테넌트 컨테이너 분리로 전환
• 물리 파티션 수에 맞춰 컨테이너 처리량을 동기화하는 스크립트 도입
• Azure 팀과의 협업을 통한 공동 관리 컨테이너 기반 멀티테넌시 접근

개발자 영향

• user_id, workspace_id 같은 공통 논리 파티션 키 충돌로 사용자별 처리량 제한 가능성
• 동일 물리 파티션의 워크로드 간 noisy neighbor로 핵심 로그인·가입 흐름 영향 가능성
• 데이터 증가에 따른 물리 파티션 분할 시 파티션당 처리량 감소 문제 고려 필요

한계·주의점

• 컨테이너 분리마다 개별 용량 계획 필요
• 기존 기본 컨테이너의 중요 워크로드는 데이터 마이그레이션 없이는 격리 어려움