목록 보기
VLOps:Event-driven MLOps & Omni-Evaluator
AI

VLOps:Event-driven MLOps & Omni-Evaluator

네이버 D2
네이버 D2
2025년 12월 3일

두줄요약

Event-driven MLOps와 Omni-Evaluator 구조를 소개한 세션입니다. 메시지 기반 오케스트레이션으로 확장성과 느슨한 결합을 확보한 점이 핵심입니다.

구조와 흐름

  • 학습·평가·배포를 Typed Message 단위로 정의한 Event-driven MLOps 구조
  • Event Sensor가 메시지를 감지해 자율 실행하는 오케스트레이션 방식
  • Omni-Evaluator와 Dashboard로 다양한 엔진·벤치마크 통합, 실시간 모니터링과 사용자 트리거 제공

선택 이유

  • 전체 버전 관리 중심 파이프라인보다 메시지 추가만으로 기능 확장이 쉬운 구조
  • 내부 오케스트레이션을 몰라도 메시지 발행만으로 동일 파이프라인 구동 가능
  • 평가·배포 시스템 간 느슨한 결합과 클라우드 간 호환성 확보

적용해볼 점

  • MLOps 파이프라인의 실행 단위를 메시지 기반 이벤트로 분리하는 접근
  • 평가 도구와 배포 도구를 통합 관점에서 다루는 운영 방식
  • 사용자 주도 트리거와 모니터링을 결합한 대시보드 설계

다음 읽기

#모니터링 주제를 이어서 읽기

경험이 쌓일수록 똑똑해지는 네이버 통합검색 LLM Devops Agent

네이버 통합검색의 장애 대응을 위해 LLM Devops Agent를 설계하고 평가한 사례를 소개했습니다. v1의 한계를 바탕으로 v2 구조와 이상 탐지, 알람·액션 추천 방향을 공유했습니다.

네이버 D2
네이버 D2
AI

댓글 0

댓글을 작성하려면 로그인이 필요합니다.

댓글을 불러오는 중...