생각하는 AI? 추론 모델 빠르게 구현해 보기 (ft. S1)
S1의 Test-Time Scaling과 Budget Forcing으로 추론 모델을 구현하는 과정을 소개했습니다. 적은 데이터와 반복 자기검증만으로도 사고 성능을 끌어올리는 방법을 살펴보았습니다.
#LLM#ML#PyTorch
6500
모든 블로그
대표 인기 포스트나의 새로운 주니어 개발자는 AI? LLM을 활용한 코드 리뷰 자동화744 조회744 조회 AI AI
백엔드
데브옵스
AI
AI
백엔드
백엔드
백엔드
AI
AI
데브옵스
AI
AI
백엔드
데브옵스
AI
AI
데보션
주요 카테고리 AI · DevOps · 백엔드
활동 요약
- 최근 30일
- 2개
- 평균 조회
- 77
- 누적 조회
- 37,237
- 전체 글
- 486개
- 마지막 발행
- 2026. 11. 10.
데보션 기술 블로그 글 (486)
LLM Knowledge Distillation 훑어보기 - part 1
LLM 지식 증류의 개념과 주요 방법론을 정리한 글입니다. Teacher 모델의 지식을 Student 모델에 이전하는 방식과 구현 접근을 소개했습니다.
#LLM#Knowledge Distillation#gpt-4o-mini
8400
Foundry 이더리움 스마트 컨트랙트 개발툴 소개
Foundry로 이더리움 스마트 컨트랙트 개발 흐름을 설치부터 배포, 호출까지 소개했습니다. ERC20 예제로 forge와 cast의 기본 사용법과 라이브러리 설정 방법을 정리했습니다.
#Foundry#이더리움#스마트 컨트랙트
4000
비용도 줄여버리는! 클라우드 설계 최적화 어디까지 해봤어? - GitOps로 FinOps 적용하기
에이닷 서버팀이 GitOps와 IaC를 바탕으로 클라우드 운영 비용을 줄인 사례를 소개했습니다. CloudWatch와 RDS를 최적화해 로그·DB 비용을 절감한 과정을 정리했습니다.
#AWS#Kubernetes#GitOps
7300
에이닷의 AI 에이전트는 어디까지 발전할 수 있을까? Code Interpreter 가 가져올 AI 에이전트 패러다임의 혁신
LLM 기반 AI 에이전트의 Tool Calling 한계를 Code Interpreter로 확장하는 흐름을 설명했습니다. Docker 샌드박스와 LangGraph로 안전하게 적용하는 예시도 함께 다뤘습니다.
#LLM#Python#Docker
4000
에이전트 내 자연어 검색 품질 향상 기법 : Entity RAG, Knowledge-aware retrieval
자연어 검색 에이전트의 품질을 높이기 위해 Entity RAG와 Knowledge-aware retrieval을 적용한 사례를 소개했습니다. 신규 개체 인식과 테마 질의 대응 성능이 개선되었고, 향후 적용 범위 확대도 제시했습니다.
#LLM#RAG#검색
4200
HTML 문서의 실시간 본문 추출기: 노이즈 적은 콘텐츠 수집의 비밀
HTML 문서에서 실시간으로 본문만 빠르게 추출하기 위한 PAAS의 로직을 소개했습니다. 트리 구조 feature와 entropy를 활용해 노이즈를 줄이면서 핵심 정보 유실을 막았습니다.
#HTML#LLM#검색
4000
FastAPI에서의 의존성 주입: 유연하고 확장 가능한 서비스 구조 만들기
FastAPI의 Depends()로 의존성 주입을 적용하는 방법을 설명했습니다. 비즈니스 로직과 구현체를 분리해 유연성과 테스트 용이성을 높이는 구조를 소개했습니다.
#FastAPI#Python#REST API
7100
JUnit5에 병렬화를 도입한 이야기 - 클래스 단위
JUnit5 Vintage 엔진에 클래스 단위 병렬 실행을 도입한 과정을 설명했습니다. ForkJoinPool 대신 fixed thread pool과 CompletableFuture를 사용해 5.12 버전에 반영했습니다.
#JUnit5#병렬화#비동기
4800
Auto 자동차 매뉴얼 특화 RAG 데모 시스템 개발
자동차 매뉴얼 검색을 위한 도메인 특화 RAG 데모 시스템을 개발했습니다. LLM과 메타 정보를 결합해 출처가 보이는 응답과 더 나은 사용자 경험을 제공했습니다.
#RAG#LLM#검색
4500
실험으로 알아보는 LLM 파인튜닝 최적화 가이드 Part 2.
LLM 파인튜닝에서 Optimizer, 학습률, 스케줄러, Warmup, 정밀도 선택 기준을 실험 결과로 정리했습니다.메모리와 안정성을 함께 고려해 AdamW 계열과 BF16, 1e-4 근처 학습률을 중심으로 검증하는 방법을 제시했습니다.
#LLM#파인튜닝#Optimizer
7600
AWS CDK 버전 업데이트 시 고려사항 및 문제해결기 (Typescript Ver.)
AWS CDK 레거시 프로젝트를 최신 버전으로 올리며 발생한 배포 오류와 호환성 문제를 정리했습니다. 정기 업데이트, 테스트 검증, 롤백 계획으로 안전하게 대응하는 방법을 소개했습니다.
#AWS CDK#TypeScript#AWS Lambda
3600
AI 추론 능력을 극대화하는 DeepSeek-R1의 혁신
DeepSeek-R1의 강화 학습 기반 추론 향상 방식과 지식 증류 전략을 정리했습니다. 또한 API 활용, 소형 모델 성능, 향후 개선 과제까지 함께 살펴봤습니다.
#LLM#ML#강화 학습
3800
효율적인 GPU 메모리 사용을 위한 여러 기법
GPU 메모리 사용을 줄이기 위한 그레이디언트 누적, 체크포인팅, ZeRO, LoRA, QLoRA를 정리했습니다. 각 기법이 절감하는 메모리 영역과 적용 효과를 예시와 함께 설명했습니다.
#GPU#ML#동시성
4500
Reliable SIP Registration Management Using Redis Keyspace Events
Redis 키스페이스 이벤트로 SIP 등록 갱신 타이머를 영속화해 서버 재시작에도 등록 누락을 줄였습니다. 대규모 환경에서는 보조 키, Goalkeeper, Redis 클러스터 확장과 hz 튜닝으로 안정성을 높였습니다.
#Redis#Kafka#MSA
2600
Multipass로 Ubuntu VM을 어디서나 빠르게 사용하기
Multipass로 macOS와 Windows에서도 Ubuntu VM을 빠르게 생성하고 관리하는 방법을 소개했습니다. GUI와 명령줄, 네트워크 브릿지 설정까지 함께 정리했습니다.
#Linux#Ubuntu#Mac
3000
vLLM로 효율적인 모델 서빙하기
vLLM을 활용한 LLM 서빙 최적화 방법을 배치 전략, 어텐션 최적화, 추론 전략으로 나눠 설명했습니다. 온라인 서빙과 오프라인 서빙의 차이와 간단한 구현 예시도 함께 소개했습니다.
#LLM#배치#Flash Attention
9000
손글씨에 강한 Google Cloud Vision AI 사용법 총정리
Google Cloud Vision API로 OCR을 수행하는 방법을 정리했습니다. API Key 방식과 서비스 계정 인증 방식을 비교하며 Colab에서의 사용법을 소개했습니다.
#Google Cloud Vision API#OCR#Colab
11900