국내 IT 기업 기술 블로그 최신 글

NEW FEATURE

채용 검색부터 관심사 기반 추천, 내 적합도까지.

새로운 기술 블로그가 추가되었어요

필터 1

[기술동향] LLM 추론 최적화 핵심 기술: 양자화, KV 캐시, 추론 칩

에이전틱 AI 확산에 따라 LLM 추론 최적화 기술과 추론 전용 칩의 중요성이 커졌습니다. 양자화, KV 캐시 압축, LPU·TPU 활용으로 비용과 지연 시간을 함께 줄이는 방향을 정리했습니다.

공공 클라우드를 위한 kt cloud PLATFORM의 운영 구조와 주요 장점을 소개했습니다. 멀티 리전, 보안 체계, AI 인프라 확장성을 통해 안정성과 확장성을 함께 강조했습니다.

NHN FactoryX 기술 백서의 AI 인프라·플랫폼 설계 근거를 소개했습니다. 수랭식 냉각, Kubernetes 기반 GPU 동적 할당, GPUaaS 격리 구조를 다뤘습니다.

육상 데이터센터의 전력·부지·냉각 한계를 우회하는 FDC의 구조와 사례를 정리했습니다. 해수 냉각과 해상풍력 연계로 AI 인프라 대안으로 부상하는 흐름을 설명했습니다.