목록 보기
Self Serving Data Platform 구축하기 (feat. Airflow)
백엔드

Self Serving Data Platform 구축하기 (feat. Airflow)

버즈빌
버즈빌
2023년 5월 31일

두줄요약

셀프 서빙 데이터 플랫폼을 구축한 사례를 소개했습니다. Airflow를 활용해 데이터 파이프라인 운영 부담을 줄이는 방향을 다뤘습니다.

핵심 내용

  • 특정 팀 의존 없이 구성원 누구나 원하는 데이터를 스스로 생산·소비하는 셀프 서빙 데이터 플랫폼 구축 사례
  • 서비스와 분석 도메인 확대로 데이터 엔지니어가 모든 파이프라인을 직접 운영·관리하는 방식의 인지 부하 증가
  • Airflow를 활용한 데이터 파이프라인 관리 체계 개선 방향 소개

다음 읽기

#Airflow 주제를 이어서 읽기

데이터 엔지니어의 Airflow 데이터 파이프라인 CI 테스트 개선기

데이터 파이프라인 CI 테스트 시간을 7분대에서 3분대로 줄인 개선 사례를 다뤘습니다. YAML 작성부터 PR, 배포까지의 흐름 속 병목을 줄이는 방법을 소개했습니다.

버즈빌
버즈빌
백엔드

댓글 0개

댓글을 작성하려면 로그인이 필요합니다.

댓글을 불러오는 중...