GenAI Everywhere: 새로운 넷츠프레소가 제시하는 Edge AI 최적화의 미래
생성형 AI의 엣지 실행을 어렵게 하는 동적 모델 구조와 이기종 하드웨어 문제를 설명했습니다. NPIR과 Cross UI로 모델 최적화 실험·측정·분석 과정을 통합하는 방향을 소개합니다.
#Edge AI#생성형 AI#트랜스포머
000

트랜스포머 태그가 달린 국내 IT 기업 기술 블로그 글을 최신순으로 모았습니다.
2개 표시
생성형 AI의 엣지 실행을 어렵게 하는 동적 모델 구조와 이기종 하드웨어 문제를 설명했습니다. NPIR과 Cross UI로 모델 최적화 실험·측정·분석 과정을 통합하는 방향을 소개합니다.

아자르는 1:1 비디오 채팅 매칭을 위해 CUPID 추천 모델을 설계하고 적용했습니다. 투 타워 구조와 세션 임베딩 분리로 레이턴시를 줄이고 추천 성능을 높였습니다.
