목록 보기
Spark on Kubernetes로 가자!
데브옵스

Spark on Kubernetes로 가자!

뱅크샐러드
뱅크샐러드
2023년 1월 5일

두줄요약

EMR, YARN 기반 Spark를 Self-hosted Kubernetes로 전환하는 내용을 소개했습니다. 데이터 분석환경 컴퓨팅을 Kubernetes 중심으로 재구성하는 방향을 다뤘습니다.

핵심 내용

  • 뱅크샐러드 데이터 분석환경 컴퓨팅을 EMR, YARN 기반 Spark에서 Self-hosted Kubernetes로 전환하는 내용
  • Spark 실행 환경을 Kubernetes 중심으로 재구성하는 방향성 소개

다음 읽기

#Spark 주제를 이어서 읽기

Spark on Kubernetes로 가자!

EMR·YARN 기반 Spark 분석 환경을 self-hosted Kubernetes로 이전한 과정을 소개했습니다. Glue 연동과 S3 commit 문제를 해결해 피크 시간 기준 약 45% 비용을 절감했습니다.

뱅크샐러드
뱅크샐러드
데브옵스
전체 보기

댓글 0개

댓글을 작성하려면 로그인이 필요합니다.

댓글을 불러오는 중...