모든 태그
태그

GPU 기술 블로그 글

GPU 태그가 달린 국내 IT 기업 기술 블로그 글을 최신순으로 모았습니다.

최근 30일 15개 · 많이 쓴 회사 데보션·KT 클라우드·네이버 D2

전체 86개최신 20개 표시
홈에서 필터

GPU 글을 많이 쓴 회사

최신 게시글

20개 표시

데브옵스

[데이터센터 입문 시리즈] 데이터센터 전력은 어떻게 끌어올까? 발전소에서 서버까지

데이터센터 전력이 송전망부터 서버까지 전달되는 5단계와 수변전 구조를 설명했습니다. 계약전력별 수전 전압, 이중 수전의 비용·안정성 차이를 정리했습니다.

#데이터센터#전력#송전망
500

데브옵스

컨테이너처럼 쓰고, VM처럼 격리하기 3편 - Fabric Manager 파티션과 DRA를 이용한 GPU 할당

Fabric Manager 파티션 제약을 DRA와 SharedCounters로 표현해 GPU를 안전하게 할당했습니다. Kata VM 콜드 플러그 경로를 보완해 베어메탈 수준의 NCCL 대역폭을 확인했습니다.

#Kubernetes#DRA#GPU
400

데브옵스

컨테이너처럼 쓰고, VM처럼 격리하기 2편 - GPU 패스스루 계층과 GPU 8장 VM의 부팅·메모리 구성

Kata Containers VM에 GPU를 연결하는 IOMMU·VFIO·CDI 계층과 PCIe 격리 방식을 설명했습니다. THP와 1GiB hugepage로 GPU 8장 VM의 부팅 지연을 줄인 사례를 다뤘습니다.

#Kubernetes#Kata Containers#GPU
700

데브옵스

컨테이너처럼 쓰고, VM처럼 격리하기 1편 - 컨테이너와 VM의 차이, Kata Containers의 Pod 실행 구조

GPU 공유 Kubernetes 환경에서 Kata Containers로 Pod별 VM 격리를 구성한 배경을 설명했습니다. KVM·QEMU·virtio와 Pod 네트워크 연결 흐름을 정리했습니다.

#Kubernetes#Kata Containers#GPU
1200

AI

같은 GPU로 더 많은 AI 요청을 처리할 수 있을까? ― KV 캐시 오프로딩 × EPP 라우팅: 계산 결과를 오래 남기고, 다음 요청이 그 결과를 찾아가게 하기

KV 캐시 오프로딩과 EPP 라우팅으로 계산 결과를 재활용하는 방식을 다룹니다. 동일 GPU 32장에서 3,456건 처리 시간을 121.7분에서 47.2분으로 줄였습니다.

#GPU#KV 캐시#EPP 라우팅
1400

AI

Image AI 서빙 최적화: CPU와 GPU의 빈 시간을 줄여 H100 67장을 절감하기까지

Image AI 서빙을 LitServe로 전환하고 CPU·GPU 대기 및 불필요한 연산을 줄였습니다. 트래픽 기반 튜닝과 GPU 공유로 H100 환산 약 67장을 절감했습니다.

#LitServe#GPU#H100
2400

AI

흩어진 행동을 연결하다: 네이버 전 지면의 사용자 행동을 학습하는 추천 모델 개발기

검색·피드·광고 데이터를 연결하는 버티컬 추천 모델의 개발과 적용 경험을 소개합니다. 실시간 GPU 서빙 최적화와 지식 증류 기반 도메인 간 지식 전이를 다룹니다.

#추천 시스템#GPU#지식 증류
900

AI

RAG 시스템의 재순위화(Reranking): 구조와 발전부터 리랭커 선정까지

RAG 재순위화의 구조와 기술 발전, 운영 설정, 모델 선정 기준을 정리했습니다. 한국어 기업 문서 실험으로 정확도·속도·GPU 비용의 차이를 비교했습니다.

#RAG#LLM#검색
3000

AI

GPUaaS란? 서비스형 GPU의 개념·구조·과금 방식 정리

GPUaaS의 IaaS 기반 책임 범위와 인스턴스·베어메탈 중심 구성 요소를 정리했습니다. 과금 방식과 GPU 메모리·클러스터 네트워크·보안 책임의 도입 기준을 설명합니다.

#GPUaaS#IaaS#CUDA
2400

데브옵스

[기술 가이드] Kubernetes의 핵심 변화: DRA를 통한 GPU 자원 동적 할당

Kubernetes 1.34의 DRA와 ResourceClaim으로 조건 기반 GPU 할당 방식을 설명했습니다. CDI 장치 주입과 MIG 자동 설정을 통한 GPU 운영 변화를 정리했습니다.

#Kubernetes#DRA#GPU
1800

데브옵스

[기술 분석] Ampere부터 Vera Rubin까지, GPU 진화가 바꾼 북미 AIDC 인프라

GPU 전력 밀도 증가가 북미 AI 데이터센터의 배전과 냉각 구조를 바꾼 과정을 분석했습니다. 480V 배전과 직접액체냉각, CDU 운영 및 설비 노후화 위험을 정리했습니다.

#NVIDIA#GPU#AIDC
800

데브옵스

[데이터센터 입문 시리즈] 같은 GPU인데 왜 성능이 다를까? 보관 장소가 만드는 차이

GPU 실성능은 사양뿐 아니라 냉각·전력·네트워크·랙 배치·가동률에 따라 달라집니다. 데이터센터 비교 시 설비 균형과 장애 복구 체계를 함께 확인해야 합니다.

#GPU#데이터센터#분산 학습
1900

데브옵스

컨테이너처럼 쓰고, VM처럼 격리하기

Kubernetes GPU 노드를 Kata Containers 기반 VM으로 격리하는 발표를 소개합니다. GPU·NIC 할당과 VM 부팅·성능 최적화 방안을 다룹니다.

#Kubernetes#Kata Containers#GPU
3100

AI

MoE란? AI 모델 구조 MoE(전문가 혼합)의 개념·원리·장단점 쉽게 이해하기

MoE의 토큰별 라우팅, 총·활성 파라미터, 밀집 구조 대비 계산 효율을 설명했습니다. 메모리 요구량과 양자화 난점, 이를 줄이는 NMQ 접근도 소개했습니다.

#MoE#LLM#양자화
2000

데브옵스

케클s피드 10월호|기술 경쟁력, 보이지 않는 곳에서 결정된다

AI 데이터센터의 GPU·네트워크·전력·냉각 인프라와 운영 기술을 소개했습니다. DR, AIOps, BIM 기반으로 서비스 연속성과 구축·운영 효율을 높이는 방안을 다뤘습니다.

#데이터센터#GPU#DR
700

AI

[인사이트] 로봇은 왜 챗봇과 GPU 수요가 다를까? 피지컬 AI 시대의 인프라 전략

RFM은 학습·시뮬레이션·엣지 추론을 함께 요구해 LLM과 다른 GPU 수요 구조를 보입니다. 국내에서는 제조 데이터와 보안 요건을 고려한 피지컬 AI 인프라 전략이 중요합니다.

#피지컬 AI#RFM#GPU
300

데브옵스

[기술해설] AI 질문 한 줄은 얼마나 많은 에너지를 쓸까? 데이터센터가 지능을 만드는 법

AI 토큰 생성이 데이터센터의 전력 소비와 열 발생으로 이어지는 구조를 설명했습니다. 고밀도 GPU 환경에서 DLC와 PUE 관리의 중요성을 정리했습니다.

#AI 데이터센터#GPU#LLM
1300

AI

[현장 스케치] AI 인프라의 경쟁력은 '운영' - KubeCon China 2026

KubeCon China 2026의 GPU 자원 관리, 분산 학습, 장애 복원력 사례를 정리했습니다. AI 인프라 경쟁력이 하드웨어 확보보다 효율적이고 안정적인 운영에 있음을 보여줍니다.

#Kubernetes#GPU#분산학습
1600

AI

양자화란? AI 모델 양자화의 개념·원리·종류 쉽게 이해하기 (INT8·FP8·NVFP4)

AI 모델 양자화의 비트 축소 원리와 INT8·FP8·NVFP4 포맷 차이를 설명합니다. 메모리 절감 효과와 정확도·하드웨어·캘리브레이션의 고려 사항을 다룹니다.

#LLM#양자화#추론
200

데브옵스

AI 학습부터 GPU 운영까지 한 곳에서, GPU Live

GPU Live는 AI 학습 실행과 GPU 자원 운영을 단일 콘솔로 통합했습니다. 동적 할당, 빈패킹, 갱 스케줄링으로 GPU 활용률과 운영 통제를 강화합니다.

#Kubernetes#GPU#컨테이너
2100