목록 보기
Elasticsearch 3TB의 인덱스를 reindex 하는 방법
백엔드

Elasticsearch 3TB의 인덱스를 reindex 하는 방법

다나와
다나와
2023년 5월 16일

두줄요약

Elasticsearch 대용량 인덱스 reindex에서 속도와 안정성을 높이는 설정 조정 사례를 다뤘습니다. replica 분리, refresh 비활성화, throttling과 복구 속도 제한으로 장애를 줄였습니다.

핵심 내용

  • Elasticsearch 3TB급 대용량 인덱스의 주기적 reindex 과정에서 속도와 안정성을 높이기 위한 설정 조정 사례
  • replica 생성 시점 분리, refresh_interval 비활성화, 배치 size 조정, 프라이머리 샤드 수 조절로 색인 효율 개선
  • 운영 중 발생한 es_rejected_execution_exception과 circuit_breaker_exception 대응 및 throttling, recovery 속도 제한 적용

적용해볼 점

  • reindex 전후 replica 생성 시점을 분리해 초기 IO와 메모리 부담 완화
  • 시스템 부하를 보며 배치 size와 샤드 수, throttling 값을 점진적으로 조정
  • reindex 이후 replica 복구 속도 제한으로 circuit breaker 가능성 완화

다음 읽기

#Elasticsearch 주제를 이어서 읽기

다나와 검색의 색인 최적화 사례

Elasticsearch 동적 색인에서 발생한 CPU 과부하와 정합성 문제를 BulkProcessor와 백프레셔로 개선했습니다. 운영 로그와 테스트에서 안정성을 높이면서도 처리 시간은 유사하게 유지했습니다.

다나와
다나와
백엔드

댓글 0

댓글을 작성하려면 로그인이 필요합니다.

댓글을 불러오는 중...