AI 학습을 위한 LLM 스터디 - 배치 전략 및 어텐션 개선 방안
LLM 추론 효율을 높이기 위한 배치 전략과 어텐션 개선 방법을 정리한 글입니다. FlashAttention, 페이지 어텐션, 추측 디코딩의 개념과 장점을 설명했습니다.
#LLM#batch#ML
3500
모든 블로그
대표 인기 포스트나의 새로운 주니어 개발자는 AI? LLM을 활용한 코드 리뷰 자동화744 조회744 조회 AI 백엔드
데브옵스
AI
프론트엔드
AI
AI
기타
AI
AI
백엔드
AI
데브옵스
프론트엔드
프론트엔드
백엔드
프론트엔드
데브옵스
데보션
주요 카테고리 AI · DevOps · 백엔드
활동 요약
- 최근 30일
- 2개
- 평균 조회
- 77
- 누적 조회
- 37,237
- 전체 글
- 486개
- 마지막 발행
- 2026. 11. 10.
데보션 기술 블로그 글 (486)
FastAPI에 모듈화된 구조 적용을 통한 빠른 프로토타이핑
FastAPI와 SQLite로 사용자 관리 API를 빠르게 만들고, 모듈화된 구조로 기능을 분리하는 방법을 소개했습니다. 의존성 주입과 예외 처리, 자동 문서화를 활용해 유지 보수성과 프로토타이핑 속도를 높였습니다.
#FastAPI#SQLite#SQLAlchemy
4800
Kubernetes에서 NFS를 활용한 ReadWriteMany 스토리지 구성하기
Kubernetes에서 NFS를 활용해 여러 파드가 동시에 읽고 쓸 수 있는 RWX 스토리지를 구성하는 방법을 정리했습니다. Ganesha 프로비저너 기반 동적 프로비저닝과 주의사항, 활용 사례를 함께 소개했습니다.
#Kubernetes#NFS#ReadWriteMany
4400
실험으로 알아보는 LLM 파인튜닝 최적화 가이드 Part 1.
LLM 파인튜닝에서 배치 크기, 시퀀스 길이, 메모리 최적화 기법의 영향을 실험 기반으로 정리했습니다. GPU 제약과 데이터 특성에 맞춰 직접 실험하며 최적값을 찾는 접근을 강조했습니다.
#LLM#파인튜닝#LoRA
4000
Vite를 이용한 FrontEnd프로젝트
Vite는 React뿐 아니라 여러 프레임워크를 지원하며 빠른 프로젝트 생성과 실행을 강점으로 소개했습니다. CRA보다 가볍고 구조가 익숙해 프런트엔드 개발에 효율적으로 활용할 수 있다고 설명했습니다.
#Vite#React#Vue.js
8100
MoA(Mixture-of-Agents, 에이전트 혼합 기법), LLM 성능을 향상시키기 위한 새로운 기법
여러 LLM의 응답을 계층적으로 결합해 최종 답변 품질을 높이는 MoA 기법을 소개했습니다. 기존 모델을 바꾸지 않고도 성능과 비용 효율성을 동시에 개선할 수 있음을 설명했습니다.
#LLM#prompt#모니터링
2500
Unity와 Hugging Face로 AI 갤러리 만들어 보기
Unity에서 Hugging Face Inference API를 호출해 이미지 생성 기능을 붙이는 방법을 소개했습니다. 3D 공간의 스크린에 생성 이미지를 표시해 AI 갤러리를 만드는 예제를 보여줬습니다.
#Unity#Hugging Face#API
2500
차세대 HBM이라고 나타난 CXL 무엇일까?
CXL의 개념과 PCIe 기반 동작, 메모리 풀링·캐시 일관성 같은 특징을 정리했습니다. AI 연산 시스템과 데이터센터에서 메모리 확장성과 효율을 높이는 활용 가능성도 소개했습니다.
#CXL#ML#데이터센터
2100
NVIDIA가 개발한 오픈 소스 툴킷: NeMo Guardrails 소개
NeMo Guardrails는 LLM 응답을 YAML 또는 Python 규칙으로 제어하는 오픈 소스 툴킷입니다. 안전한 응답 필터링과 비즈니스 규칙 적용 예시를 함께 소개했습니다.
#LLM#YAML#Python
5600
브라우저 기반 IPFS 네트워크 동향 (2025년 1월 기준)
브라우저를 IPFS 노드처럼 활용하는 동향을 Helia와 PubSub 중심으로 정리했습니다. 비용 없이 브라우저 간 IPFS 통신을 구성하는 방향을 소개했습니다.
#IPFS#Helia#PubSub
4200
FastAPI 프로젝트의 결합도 낮추기 전략
FastAPI 프로젝트에서 service와 router를 분리해 결합도를 낮추는 구조를 소개했습니다. 모듈 독립성과 테스트 용이성을 높여 유지보수성과 확장성을 개선하는 방법을 정리했습니다.
#FastAPI#Python#API
5100
임베딩 모델로 데이터 의미 압축하기
텍스트를 숫자와 벡터로 표현하는 여러 방법과 문장 임베딩 기반 의미 검색을 정리했습니다. 또한 BERT, FAISS, 하이브리드 검색의 구조와 활용 방향을 소개했습니다.
#LLM#임베딩#검색
3900
Keycloak 활용한 SSO 구현 : #5 SSO 연동 테스트: Keycloak과 애플리케이션의 완벽한 통합
Keycloak과 ArgoCD를 OIDC로 연동해 SSO와 Single Sign Out을 테스트하는 과정을 정리했습니다. 로그인, 로그아웃, RBAC, 401 오류 대응까지 함께 다뤘습니다.
#Keycloak#SSO#ArgoCD
3600
퍼블리셔와 개발자 협업을 위한 스토리북 깨짐 방지 방안
퍼블리셔와 개발자 협업에서 스토리북이 깨지는 원인을 분석하고 CIC 패턴으로 역할을 분리했습니다. 스토리북용 props와 실행 환경 분기를 정리해 무결성을 유지했습니다.
#React#Storybook#API
3400
시각장애인을 위해 모달 컴포넌트 접근성 개선하기
시각장애인의 웹 탐색 방식에 맞춰 모달 접근성을 개선하는 방법을 소개했습니다. aria 속성, ESC 닫기, 포커스 트랩으로 키보드 탐색 경험을 보완했습니다.
#React#UI/UX#접근성
5300
Spring Boot 성능 개선 사례 공유 (1) - Redis 및 Local 캐싱 활용
Redis와 로컬 캐시를 결합해 조회 성능을 개선한 사례를 공유했습니다. 1만 건 요청 기준 2배 이상 성능 향상을 확인했으며 캐시 동기화 구조와 개선 포인트도 정리했습니다.
#Spring Boot#Redis#cache
5900
Vue.js 환경에서 페이지 이탈 방지 팝업 구현하기
Vue.js SPA에서 가입 중 입력 정보 유실 문제를 막기 위해 이탈 방지 팝업을 구현했습니다. beforeunload와 onBeforeRouteLeave를 조합해 라우터 이동과 외부 이동을 함께 대응했습니다.
#Vue.js#JavaScript#web
5000
폐쇄망에서 Gradle 프로젝트 빌드하기(offline mode)
폐쇄망 환경에서 Gradle 프로젝트를 인터넷 없이 빌드하는 방법을 정리했습니다. 의존성과 wrapper를 로컬 경로로 모으고 Docker에서 `--offline` 빌드를 검증했습니다.
#Gradle#offline mode#Docker
6700