DeepSeek-R1 기술 분석
DeepSeek-R1의 구조와 학습 방식, GRPO와 지식 증류의 특징을 OpenAI o1과 비교해 정리했습니다. 비용 절감과 추론 성능 강점, 한국어 적용 시 주의점도 함께 살펴봤습니다.
#LLM#ML
57005분
필터 1
PyTorch 2.x Torch Compile로 딥러닝 성능 올려보기
PyTorch 2.x의 핵심 기능인 Torch Compile을 소개하는 글입니다. 딥러닝 성능을 높이는 관점에서 PyTorch 2.0의 변화 포인트를 다뤘습니다.
#PyTorch#ML
7005분
AWS Parallel Cluster 생성
AWS Parallel Cluster 생성
AWS ParallelCluster를 Slurm 기준으로 생성하고 작업을 제출하는 절차를 소개했습니다. CLI 설정, 클러스터 접속, 삭제까지의 기본 흐름을 정리했습니다.
#AWS#EC2
20005분
GPT를 활용한 카탈로그 아이템 생성
배달의민족은 GPT와 RAG를 활용해 상품 카탈로그 속성값 생성 자동화를 시도했습니다. 평가 모델을 보완해 작업 효율을 높이고 정확도도 개선했습니다.
#GPT#RAG
31005분
인도 디지털 대출 시장
인도 디지털 대출 시장
인도 디지털 대출 시장의 성장 배경과 핵심 동인을 정리했습니다. 부실 대출 리스크와 규제 변화 속에서도 투자 기회가 크다고 보았습니다.
#핀테크#ML
0005분
밸런스히어로, 국제 금융 데이터 사이언스 대회서 2위 수상
밸런스히어로, 국제 금융 데이터 사이언스 대회서 2위 수상
밸런스히어로가 국제 금융 데이터 사이언스 대회에서 2위를 수상했습니다. 대안신용평가시스템(ACS)의 기술력과 다른 지역으로의 확장 가능성을 입증했습니다.
#ML#금융
0005분
밸런스히어로, 국제 금융 데이터 사이언스 대회서 2위 수상
X
#ML#분석
4005분
AI 추론 능력을 극대화하는 DeepSeek-R1의 혁신
DeepSeek-R1의 강화 학습 기반 추론 향상 방식과 지식 증류 전략을 정리했습니다. 또한 API 활용, 소형 모델 성능, 향후 개선 과제까지 함께 살펴봤습니다.
#LLM#ML
25005분
효율적인 GPU 메모리 사용을 위한 여러 기법
GPU 메모리 사용을 줄이기 위한 그레이디언트 누적, 체크포인팅, ZeRO, LoRA, QLoRA를 정리했습니다. 각 기법이 절감하는 메모리 영역과 적용 효과를 예시와 함께 설명했습니다.
#GPU#ML
37005분
RAG를 활용한 검색 서비스 만들기
동네생활 게시글과 댓글에서 업체 추천 정보를 찾아 RAG 기반 검색 서비스로 연결했습니다.\n벡터 검색, LLM 요약, 적절성 필터링을 거쳐 신뢰도 높은 추천 결과를 제공했습니다.
#RAG#검색
232005분
로봇 ML 모델의 경량화 2부: 양자화 인식 훈련
PTQ의 성능 저하 한계를 보완하기 위한 QAT 개념과 원리를 설명했습니다.\nNVIDIA pytorch-quantization으로 QAT를 수행하고 ONNX/TensorRT로 변환하는 절차를 소개했습니다.
#ML#양자화
21005분
차세대 HBM이라고 나타난 CXL 무엇일까?
CXL의 개념과 PCIe 기반 동작, 메모리 풀링·캐시 일관성 같은 특징을 정리했습니다. AI 연산 시스템과 데이터센터에서 메모리 확장성과 효율을 높이는 활용 가능성도 소개했습니다.
#CXL#ML
16005분