국내 IT 기업 기술 블로그 최신 글

노타

2025년 4월 8일

AI

UniForm: 자원이 제한된 엣지 디바이스에서 효율적인 트랜스포머를 위한 재사용 어텐션 메커니즘

UniForm은 공유 어텐션 행렬로 다중 헤드 어텐션의 중복 계산과 메모리 사용량을 줄였습니다. 엣지 환경에서 정확도와 빠른 추론 속도를 함께 달성한 결과를 소개합니다.