공공 API 크롤러 개발기

공공 API 크롤러 개발기
공공 API 만료일을 자동 확인하기 위해 Puppeteer 기반 Lambda 크롤러와 알림을 구현했습니다. 배포 용량, 메모리, Chromium 샌드박스 문제의 대응 과정도 공유했습니다.
#puppeteer#AWS
2800
새로운 기술 블로그가 추가되었어요

공공 API 만료일을 자동 확인하기 위해 Puppeteer 기반 Lambda 크롤러와 알림을 구현했습니다. 배포 용량, 메모리, Chromium 샌드박스 문제의 대응 과정도 공유했습니다.


SendGrid 지연이 알림 서비스까지 전파되던 문제를 SNS와 Lambda 비동기 구조로 분리했습니다. 재시도와 DLQ를 적용해 대량 전송 상황에서도 안정적으로 운영했습니다.


복잡한 람다식 기반 구독 검증 로직을 의미 있는 이름과 작은 메서드로 분리했습니다. 가독성이 떨어질 때는 람다식 사용 여부를 비교해 판단해야 합니다.

CSV 데이터를 기본 Python과 pandas로 선택·저장·결합하는 방법을 학습했습니다. 데이터 탐색, 조작, groupby·merge 활용을 실습했습니다.


SQS와 Lambda로 간단한 작업 대기열을 구성하며 서버리스 환경을 소개했습니다. 운영 부담을 줄이고 확장성과 모니터링 도구를 활용하는 방향을 다뤘습니다.