Velopers
모든 블로그모든 태그AI 업체 소식채용정보NEW공지주간 인기글주간 기술 흐름

국내 IT 기업 기술 블로그 최신 글

테크블로그국내 IT 기업 기술 블로그AI 업체 소식OpenAI · Anthropic 공식 블로그

새로운 기술 블로그가 추가되었어요

노타
필터 1
광고 영역
전문가의 절반을 내보냈습니다
스캐터랩 핑퐁
2026년 10월 30일
AI

전문가의 절반을 내보냈습니다

MoE 전문가 사용량 편중을 분석해 REAP 기반 절반 프루닝을 적용했습니다. 유저 지표 차이 없이 GPU당 대화 처리량을 1.6배로 높였습니다.

#LLM#MoE
700
H100 8장을 2장으로: LLM 경량화가 만든 GPU 비용 절감
노타
2026년 8월 26일
AI

H100 8장을 2장으로: LLM 경량화가 만든 GPU 비용 절감

MoE 양자화와 비균일 전역 프루닝으로 LLM 가중치 메모리를 줄이는 사례를 소개했습니다. Solar Open2와 Kimi K3의 GPU 구성 축소 및 벤치마크 결과를 비교했습니다.

#LLM#MoE
000

Powered by Velopers

이용약관개인정보처리방침공지사항광고 문의