목록 보기
매드업의 DMP - 프리즘(prism)을 소개합니다
아키텍처

매드업의 DMP - 프리즘(prism)을 소개합니다

매드업
매드업
2023년 3월 19일

두줄요약

매드업의 DMP 프리즘 구조와 운영 경험을 소개한 글입니다. V1의 한계를 바탕으로 V2에서 비동기화, 매니지드 서비스, RA3 전환을 통해 개선한 내용을 설명했습니다.

핵심 내용

  • 매드업의 DMP 프리즘(Priism) 전반 소개, 광고 데이터 수집·가공·적재·공급 파이프라인 구성
  • Python 수집기, S3, Redshift, Airflow, ECS를 활용한 초기 아키텍처와 대규모 광고 데이터 처리 방식
  • 프리즘 V1의 한계로 동기 처리, Redis Stream, ECS, Airflow on EC2, Redshift DC2를 짚고 V2에서 비동기화, SQS·MSK, EKS, MWAA, Redshift RA3로 전환
  • 데이터 소비 환경으로 JupyterHub와 Fargate 기반 분석 인프라, 향후 매체 대응과 분석 플랫폼 확장 과제 제시

다음 읽기

#AWS 주제를 이어서 읽기

어서 와, 광고 데이터 수집은 처음이지? (feat. kraken)

광고 매체 API의 호출 제한과 페이지네이션으로 인한 대량 수집 문제를 다뤘습니다. Redis Stream과 ECS 기반 크라켄으로 병렬 수집·재시도를 구현해 오류율을 개선했습니다.

매드업
매드업
아키텍처
전체 보기

댓글 0개

댓글을 작성하려면 로그인이 필요합니다.

댓글을 불러오는 중...