AI
모바일 AI의 혁신 : 실시간 성능 향상을 위해 넷츠프레소로 의미론적 분할 모델을 가속하는 방법
두줄요약
모바일 환경에서 PIDNet 의미론적 분할 모델의 실시간 처리 지연 문제를 다뤘습니다.\nNetsPresso 구조적 가지치기로 압축률별 정확도와 지연 시간의 균형을 비교했습니다.
문제 상황
- 사람 픽셀을 분류하는 의미론적 분할의 높은 연산량과 모바일 실시간 처리 지연
- Android 기반 갤럭시 S23에서 ONNX 형식 PIDNet 실행 시 1.86 FPS 수준의 처리 성능
해결 방법
- NetsPresso의 구조적 가지치기를 활용한 PIDNet 모델 압축
- 40%·50% 압축 수준별 정확도와 지연 시간 비교
성능/운영 포인트
- 40% 압축에서 평균 IoU 정확도 유지와 지연 시간 단축
- 50% 압축에서 일부 정확도 손실과 더 큰 지연 시간 개선의 균형
- 화상 회의·영상 통화 배경 제거를 위한 실시간 온디바이스 AI 적용 가능성
트레이드오프
- 압축률 증가에 따른 추론 지연 감소와 정확도 저하 가능성
- 응용 프로그램의 실시간성 요구와 분할 품질 기준에 따른 압축 수준 선택
