Among-Device AI를 위한 NNStreamer Pipeline 프레임워크의 확장
AI
Among-Device AI를 위한 NNStreamer Pipeline 프레임워크의 확장
두줄요약
NNStreamer를 확장해 기기 간 AI 파이프라인을 연결하는 Among-Device AI 구조를 소개했습니다. NNStreamer-Edge와 Machine Learning Service로 원격 추론·파이프라인 공유를 지원합니다.
문제 상황
- 제한된 메모리·처리 능력·에너지와 기기별 데이터 가용성으로 제약되는 On-Device AI
- 제조사와 기기를 넘나드는 컴퓨팅 자원·하드웨어 기능 공유 요구
구조와 흐름
- NNStreamer 기반 AI 파이프라인을 기기 간 연결하는 Among-Device AI 구조
- Publish·Subscribe·Query 방식의 NNStreamer-Edge와 원격 추론용 tensor_query
- 재배포·원자적 재구성이 가능한 파이프라인 및 서브파이프라인 단위 공유
선택 이유
- GStreamer와 NNStreamer에 의존하지 않는 경량·이식형 NNStreamer-Edge
- MediaPipe 플러그인, GStreamer 기반 DeepStream 파이프라인 연동 가능성
- 공통 AI 파이프라인을 애플리케이션에서 분리하는 Machine Learning Service
주의할 점
- Pipe-and-Filter Architecture와 Pipeline Topology 표현의 높은 학습 곡선
- 부적절한 파이프라인 설계 방지를 위한 예제·문서·편집기와 공통 라이브러리 필요




