태그

SGLang 기술 블로그 글

SGLang 태그가 달린 국내 IT 기업 기술 블로그 글을 최신순으로 모았습니다.

전체 1개최신 1개 표시

SageMaker AI로 해보는 GPT-OSS 추론 성능 테스트와 용량 산정

SageMaker AI에서 GPT-OSS 120B 추론 성능 테스트와 GPU 용량 산정 방법을 다뤘습니다. vLLM과 SGLang을 비교하며 워크로드별 성능 지표와 최적화 포인트를 정리했습니다.