태그

TensorRT-LLM 기술 블로그 글

TensorRT-LLM 태그가 달린 국내 IT 기업 기술 블로그 글을 최신순으로 모았습니다.

전체 2개최신 2개 표시

홈에서 필터

#LLM995 #AWS635 #Docker117 #batch34 #Amazon EC26 #ARM1 #통합메모리1 #cloud422 #Kubernetes412 #UI/UX395 #자동화304 #검색285

최신 게시글

2개 표시

2026년 5월 8일

[리뷰] 책상 위의 데이터센터, Dell Pro Max GB10 AI 워크스테이션 실사용기

Dell Pro Max GB10 AI 워크스테이션의 구조와 실사용 성능을 검증한 리뷰였습니다. 로컬에서 70B급 모델을 빠르게 돌릴 수 있는 통합 메모리 기반 AI 노드로 소개했습니다.

#LLM#Docker#TensorRT-LLM

[리뷰] 책상 위의 데이터센터, Dell Pro Max GB10 AI 워크스테이션 실사용기

2026년 3월 13일

네오사피엔스의 AWS g6e 기반 LLM 추론 배치 워크로드 최적화 사례

네오사피엔스가 AWS g5, g6e, g7e에서 LLM 추론 배치와 정밀도를 비교했습니다. 실제 운영 조건을 반영해 g6e + INT8 조합을 최적점으로 선택했습니다.

#LLM#AWS#Amazon EC2

네오사피엔스의 AWS g6e 기반 LLM 추론 배치 워크로드 최적화 사례