Snowflake Arctic의 기술적 진보
Snowflake가 기업 중심 LLM Arctic을 오픈소스로 공개하고, 낮은 훈련비용과 높은 성능을 강조했습니다. Dense-MoE 하이브리드 구조와 FP8 양자화로 추론 효율도 개선했습니다.
#LLM#MoE#양자 컴퓨팅
1700
모든 블로그
대표 인기 포스트Terraform과 AWS Well-Architected Framework를 이용한 마이그레이션과 현대화32 조회32 조회 AI AI
AI
AI
AI
메가존클라우드
도메인medium.com
주요 카테고리 AI · DevOps · 백엔드
활동 요약
- 최근 30일
- 0개
- 평균 조회
- 20
- 누적 조회
- 201
- 전체 글
- 10개
- 마지막 발행
- 2024. 7. 9.
메가존클라우드 기술 블로그 글 (5)
llama3에 대한 Andrej Karpathy의 생각
Andrej Karpathy가 Llama 3의 성능, 데이터, 학습 규모를 긍정적으로 평가했습니다. 동시에 더 긴 컨텍스트와 더 작은 모델에 대한 아쉬움도 언급했습니다.
#LLM#MCP#ML
1300
Data Parallelism in Machine Learning Training
대규모 머신러닝 학습에서 데이터 병렬성과 동기/비동기 업데이트 방식을 설명했습니다. 또한 Ring-AllReduce로 통신 병목과 상태 불일치 문제를 완화하는 방법을 소개했습니다.
#ML#distributed training#GPU
1900
Langchain을 통한 개인블로그 RAG 프로젝트
개인 블로그 기록을 RAG 데이터로 활용해 Streamlit과 LangChain으로 LLM 애플리케이션을 만들었습니다. 운영 지표, 벡터 DB 연동, 개별 파일 업데이트 최적화까지 직접 겪은 고민을 정리했습니다.
#RAG#Langchain#Streamlit
2700
Random Forest with Grid Search
항공권 예약 데이터로 Random Forest 분류 모델을 구현하고 Grid Search로 튜닝한 과정을 설명했습니다. 불균형 데이터 처리, 성능 평가, 특성 중요도 해석까지 함께 다뤘습니다.
#ML#Python#Random Forest
1600