목록 보기
Among-Device AI를 위한 NNStreamer Pipeline 프레임워크의 확장
AI

Among-Device AI를 위한 NNStreamer Pipeline 프레임워크의 확장

삼성
삼성
2023년 10월 29일

두줄요약

NNStreamer를 확장해 기기 간 AI 파이프라인을 연결하는 Among-Device AI 구조를 소개했습니다. NNStreamer-Edge와 Machine Learning Service로 원격 추론·파이프라인 공유를 지원합니다.

문제 상황

  • 제한된 메모리·처리 능력·에너지와 기기별 데이터 가용성으로 제약되는 On-Device AI
  • 제조사와 기기를 넘나드는 컴퓨팅 자원·하드웨어 기능 공유 요구

구조와 흐름

  • NNStreamer 기반 AI 파이프라인을 기기 간 연결하는 Among-Device AI 구조
  • Publish·Subscribe·Query 방식의 NNStreamer-Edge와 원격 추론용 tensor_query
  • 재배포·원자적 재구성이 가능한 파이프라인 및 서브파이프라인 단위 공유

선택 이유

  • GStreamer와 NNStreamer에 의존하지 않는 경량·이식형 NNStreamer-Edge
  • MediaPipe 플러그인, GStreamer 기반 DeepStream 파이프라인 연동 가능성
  • 공통 AI 파이프라인을 애플리케이션에서 분리하는 Machine Learning Service

주의할 점

  • Pipe-and-Filter Architecture와 Pipeline Topology 표현의 높은 학습 곡선
  • 부적절한 파이프라인 설계 방지를 위한 예제·문서·편집기와 공통 라이브러리 필요

다음 읽기

비슷한 주제의 데브옵스 글

로봇을 위한 MLOps #2: 엣지 파이프라인의 구성

로봇 엣지 디바이스에서 동작하는 MLOps 파이프라인과 TensorRT 기반 추론 도구를 소개했습니다. Trtexec, TREx, Nsight Systems로 변환·시각화·성능 분석을 수행하는 흐름을 정리했습니다.

우아한 형제들
우아한 형제들
데브옵스

댓글 0개

댓글을 작성하려면 로그인이 필요합니다.

댓글을 불러오는 중...