국내 IT 기업 기술 블로그 최신 글

노타

2026년 3월 13일

AI

NotaMoEQuantization: Solar-Open-100B에 적용된 MoE 구조 특화 양자화 방법론

MoE 양자화의 재라우팅 문제를 줄이기 위한 NMQ 손실 함수를 소개했습니다. Solar-Open-100B에서 성능과 라우팅 일치도 개선을 확인했습니다.