목록 보기
같은 모델, 다른 예측
AI

같은 모델, 다른 예측

토스
토스
2026년 11월 17일

두줄요약

서빙 파티션 기록과 블루/그린 전환으로 추천 모델의 Training-Serving Skew를 줄였습니다. 잔존 피처를 삭제해 학습·서빙 일관성을 높이고 온라인 실험으로 영향을 확인했습니다.

문제 상황

  • 추천 모델 학습 시점과 온라인 추론 시점의 피처 파티션·값 불일치인 Training-Serving Skew
  • 업로드 진행 중 값과 테이블 파티션 정보의 불일치, 집계 대상에서 제외된 Cross Feature의 잔존

원인 분석

  • 테이블별 배치 업로드 완료 시점 차이로 동일 요청에서 서로 다른 시점의 파티션 사용
  • 행 단위 덮어쓰기 중 신규 값 서빙과 기존 테이블 단위 파티션 기록 간 시점 차이
  • Upsert와 TTL 기반 만료로 신규 집계에서 빠진 행의 과거 값 지속 서빙

해결 방법

  • 요청 로그에 피처 값 전체 대신 실제 서빙에 사용한 테이블별 파티션 기록
  • 블루/그린 적재 후 데이터와 파티션 정보를 함께 전환하는 방식
  • 적재 대상 영역의 이전 파티션과 비교해 신규·변경 행 반영, 제외 행 삭제

성능/운영 포인트

  • 사용자 피처 약 89%, 상품 피처 약 94%의 학습 대상 행에 서빙 파티션 연결
  • Cross Feature 조회 노출 비율 14.4%에서 6.0%로 감소
  • 온라인 실험에서 CTR 상대 0.86% 감소, CVR 상대 0.91% 증가 및 주요 목표·가드레일 지표의 유의한 변화 부재

토스 계열사 채용160건

채용 사이트에서 전체 보기

다음 읽기

#Feature Store 주제를 이어서 읽기

토스가 다양한 ML 모델을 만드는 법: Feature Store & Trainkit

토스가 Feature Store와 Trainkit으로 ML 학습·서빙 파이프라인을 표준화한 사례를 소개했습니다. 재사용성, 재현성, skew 해소를 통해 운영 효율을 높인 점이 핵심입니다.

토스
토스
AI
전체 보기

댓글 0개

댓글을 작성하려면 로그인이 필요합니다.

댓글을 불러오는 중...