생성형 검색 (RAG) 평가의 최근 트렌드
생성형 검색(RAG) 평가의 최근 트렌드와 주요 플랫폼, 지표 변화를 정리했습니다. LC와 RAG의 비교 결과를 통해 질문 유형별 적합한 접근도 살펴봤습니다.
#RAG#LLM
6500
국내 IT 기업 기술 블로그 최신 글
필터 1
[#5 LLM Tutorial With RAG] LLM은 학습할 데이터도 스스로 만들 수 있습니다!
X
#LLM#RAG
2100
vLLM로 효율적인 모델 서빙하기
vLLM을 활용한 LLM 서빙 최적화 방법을 배치 전략, 어텐션 최적화, 추론 전략으로 나눠 설명했습니다. 온라인 서빙과 오프라인 서빙의 차이와 간단한 구현 예시도 함께 소개했습니다.
#vLLM#LLM
8600
산업 현장에서 작동하는 AI 에이전트 구현하기
산업 현장에 맞는 Vertical AI 에이전트 구현 방식과 설계 원칙을 소개했습니다. Agent Flow와 Autonomous Agent를 조합해 예측 가능한 문제와 예외 상황을 함께 다뤘습니다.
#LLM#API
2100
AI 학습을 위한 LLM 스터디 - 배치 전략 및 어텐션 개선 방안
LLM 추론 효율을 높이기 위한 배치 전략과 어텐션 개선 방법을 정리한 글입니다. FlashAttention, 페이지 어텐션, 추측 디코딩의 개념과 장점을 설명했습니다.
#LLM#batch
2900
모두를 위한 LLM 애플리케이션 개발 환경 구축 사례
LLM 애플리케이션을 직군에 상관없이 쉽게 만들고 배포할 수 있는 환경 구축 사례를 소개했습니다. Prompt Store, Langflow, 자동 배포 구조로 개발과 피드백 주기를 단축했습니다.
#LLM#Langflow
4000
RAG를 활용한 검색 서비스 만들기
동네생활 게시글과 댓글에서 업체 추천 정보를 찾아 RAG 기반 검색 서비스로 연결했습니다.\n벡터 검색, LLM 요약, 적절성 필터링을 거쳐 신뢰도 높은 추천 결과를 제공했습니다.
#RAG#검색
23600
2025년 웹 개발 핵심 트렌드 5가지
2025년 웹 개발의 핵심 트렌드 5가지를 정리한 글입니다. AI 도구, JAMstack, Utility-First CSS, WebAssembly, VUI의 활용과 전망을 소개했습니다.
#웹 개발#LLM
1200
Velopers 추천광고
쿠팡 파트너스
개발자를 위한 인기 상품을 확인해 보세요
이 게시물은 쿠팡 파트너스 활동의 일환으로, 이에 따른 일정액의 수수료를 제공받습니다.
#개발자#노트북#컴퓨터
실험으로 알아보는 LLM 파인튜닝 최적화 가이드 Part 1.
LLM 파인튜닝에서 배치 크기, 시퀀스 길이, 메모리 최적화 기법의 영향을 실험 기반으로 정리했습니다.\nGPU 제약과 데이터 특성에 맞춰 직접 실험하며 최적값을 찾는 접근을 강조했습니다.
#LLM#파인튜닝
3500
페이증권의 업무도우미 AI봇을 소개합니다! 근데 이제 춘식이를 곁들인
아마존 베드락을 활용해 사내 지식저장소를 구축하고 AI챗봇과 코드리뷰봇을 개발한 경험을 공유했습니다. 업무도우미 AI봇에 춘식이 요소를 더한 소개 글입니다.
#LLM#AWS
3100
MoA(Mixture-of-Agents, 에이전트 혼합 기법), LLM 성능을 향상시키기 위한 새로운 기법
여러 LLM의 응답을 계층적으로 결합해 최종 답변 품질을 높이는 MoA 기법을 소개했습니다. 기존 모델을 바꾸지 않고도 성능과 비용 효율성을 동시에 개선할 수 있음을 설명했습니다.
#LLM#prompt
2300
Claude MCP로 엔지니어링 업무 자동화하기 \:\ 정보 검색, README, Git, Slack 활용법
Claude MCP를 활용해 엔지니어링 업무를 자동화하는 방법을 소개했습니다. 최신 정보 검색, README 생성, Git 제어, Slack 작업 예시와 함께 서버 설정 흐름을 정리했습니다.
#Claude#MCP
4400
NVIDIA가 개발한 오픈 소스 툴킷: NeMo Guardrails 소개
NeMo Guardrails는 LLM 응답을 YAML 또는 Python 규칙으로 제어하는 오픈 소스 툴킷입니다. 안전한 응답 필터링과 비즈니스 규칙 적용 예시를 함께 소개했습니다.
#LLM#YAML
5000
2025년 DevOps 트렌드 4가지 알아보기
2025년 DevOps 트렌드 4가지를 정리했습니다. AI 에이전트, FinOps, 인프라 자동화, 정책 기반 거버넌스의 확산을 다뤘습니다.
#LLM#FinOps
2600