목록 보기
ksqlDB를 이용하여 실시간 ML 피쳐 데이터를 계산하기
AI

ksqlDB를 이용하여 실시간 ML 피쳐 데이터를 계산하기

하이퍼커넥트
하이퍼커넥트
2023년 11월 21일

두줄요약

ksqlDB를 이용해 카프카 이벤트로부터 실시간 ML 피쳐를 계산하는 방법을 소개했습니다. 변환·필터링·윈도우 집계를 SQL만으로 구성하고, 제약과 주의점도 정리했습니다.

핵심 내용

  • 추천 시스템에서 실시간 피쳐 데이터가 모델 성능에 큰 영향을 주는 배경
  • 카프카 이벤트를 입력으로 ksqlDB SQL을 작성해 피쳐 스토어용 메시지를 생성하는 방식
  • 변환, 필터링, Hopping Window 기반 집계로 실시간 피쳐를 계산하는 예시
  • 긴 윈도우, 누적값, 조인 등은 제약과 부하 때문에 적용이 까다로운 점

다음 읽기

#Kafka 주제를 이어서 읽기

ksqlDB Deep Dive

ksqlDB를 Kafka Streams 기반의 SQL 엔진으로 소개하며 동작 원리와 아키텍처를 설명했습니다. 또한 Push Query와 Pull Query, stateful 처리와 리밸런싱 개념을 함께 정리했습니다.

하이퍼커넥트
하이퍼커넥트
백엔드

댓글 0개

댓글을 작성하려면 로그인이 필요합니다.

댓글을 불러오는 중...