국내 IT 기업 기술 블로그 최신 글

필터 1
LLM 앱의 제작에서 테스트와 배포까지, LLMOps 구축 사례 소개
라인
AI

LLM 앱의 제작에서 테스트와 배포까지, LLMOps 구축 사례 소개

LLMOps 구축 사례를 통해 LLM 애플리케이션의 데이터 준비, 프롬프트, 배포, 테스트를 하나의 흐름으로 관리하는 방법을 소개했습니다. 도메인 전문가 참여와 재사용 가능한 공통 컴포넌트로 협업 효율을 높인 내용입니다.

#LLM#RAG
7000
vLLM로 효율적인 모델 서빙하기
데보션
AI

vLLM로 효율적인 모델 서빙하기

vLLM을 활용한 LLM 서빙 최적화 방법을 배치 전략, 어텐션 최적화, 추론 전략으로 나눠 설명했습니다. 온라인 서빙과 오프라인 서빙의 차이와 간단한 구현 예시도 함께 소개했습니다.

#LLM#배치
9000
산업 현장에서 작동하는 AI 에이전트 구현하기
마키나락스
AI

산업 현장에서 작동하는 AI 에이전트 구현하기

산업 현장에 맞는 Vertical AI 에이전트 구현 방식과 설계 원칙을 소개했습니다. Agent Flow와 Autonomous Agent를 조합해 예측 가능한 문제와 예외 상황을 함께 다뤘습니다.

#LLM#API
3000
대형 언어 모델은 데이터의 애매성을 어디에서 식별할까?
노타
AI

대형 언어 모델은 데이터의 애매성을 어디에서 식별할까?

LLM 중간 레이어의 은닉 벡터로 NLU 입력의 애매성을 탐지하는 분류기를 제안했습니다. 최종 레이어보다 높은 탐지 성능을 확인하고, 라벨 부족 대응 학습법을 제시했습니다.

#LLM#NLP
100
AI 학습을 위한 LLM 스터디 - 배치 전략 및 어텐션 개선 방안
데보션
AI

AI 학습을 위한 LLM 스터디 - 배치 전략 및 어텐션 개선 방안

LLM 추론 효율을 높이기 위한 배치 전략과 어텐션 개선 방법을 정리한 글입니다. FlashAttention, 페이지 어텐션, 추측 디코딩의 개념과 장점을 설명했습니다.

#LLM#batch
3500
모두를 위한 LLM 애플리케이션 개발 환경 구축 사례
라인
AI

모두를 위한 LLM 애플리케이션 개발 환경 구축 사례

LLM 애플리케이션을 직군에 상관없이 쉽게 만들고 배포할 수 있는 환경 구축 사례를 소개했습니다. Prompt Store, Langflow, 자동 배포 구조로 개발과 피드백 주기를 단축했습니다.

#LLM#Langflow
4300
쿠팡 파트너스

광고

개발자를 위한 서적을 확인해 보세요

이 게시물은 쿠팡 파트너스 활동의 일환으로, 이에 따른 일정액의 수수료를 제공받습니다.

#개발서적#프로그래밍
RAG를 활용한 검색 서비스 만들기
당근마켓
AI

RAG를 활용한 검색 서비스 만들기

동네생활 게시글과 댓글에서 업체 추천 정보를 찾아 RAG 기반 검색 서비스로 연결했습니다. 벡터 검색, LLM 요약, 적절성 필터링을 거쳐 신뢰도 높은 추천 결과를 제공했습니다.

#RAG#검색
24500
2025년 웹 개발 핵심 트렌드 5가지
인포그랩
프론트엔드

2025년 웹 개발 핵심 트렌드 5가지

2025년 웹 개발의 핵심 트렌드 5가지를 정리한 글입니다. AI 도구, JAMstack, Utility-First CSS, WebAssembly, VUI의 활용과 전망을 소개했습니다.

#웹 개발#LLM
1600
실험으로 알아보는 LLM 파인튜닝 최적화 가이드 Part 1.
데보션
AI

실험으로 알아보는 LLM 파인튜닝 최적화 가이드 Part 1.

LLM 파인튜닝에서 배치 크기, 시퀀스 길이, 메모리 최적화 기법의 영향을 실험 기반으로 정리했습니다. GPU 제약과 데이터 특성에 맞춰 직접 실험하며 최적값을 찾는 접근을 강조했습니다.

#LLM#파인튜닝
4100
페이증권의 업무도우미 AI봇을 소개합니다! 근데 이제 춘식이를 곁들인
카카오페이
AI

페이증권의 업무도우미 AI봇을 소개합니다! 근데 이제 춘식이를 곁들인

아마존 베드락을 활용해 사내 지식저장소를 구축하고 AI챗봇과 코드리뷰봇을 개발한 경험을 공유했습니다. 업무도우미 AI봇에 춘식이 요소를 더한 소개 글입니다.

#LLM#AWS
3600
MoA(Mixture-of-Agents, 에이전트 혼합 기법), LLM 성능을 향상시키기 위한 새로운 기법
데보션
AI

MoA(Mixture-of-Agents, 에이전트 혼합 기법), LLM 성능을 향상시키기 위한 새로운 기법

여러 LLM의 응답을 계층적으로 결합해 최종 답변 품질을 높이는 MoA 기법을 소개했습니다. 기존 모델을 바꾸지 않고도 성능과 비용 효율성을 동시에 개선할 수 있음을 설명했습니다.

#LLM#prompt
2600
Claude MCP로 엔지니어링 업무 자동화하기 \:\ 정보 검색, README, Git, Slack 활용법
인포그랩
AI

Claude MCP로 엔지니어링 업무 자동화하기 \:\ 정보 검색, README, Git, Slack 활용법

Claude MCP를 활용해 엔지니어링 업무를 자동화하는 방법을 소개했습니다. 최신 정보 검색, README 생성, Git 제어, Slack 작업 예시와 함께 서버 설정 흐름을 정리했습니다.

#Claude#MCP
5200
NVIDIA가 개발한 오픈 소스 툴킷: NeMo Guardrails 소개
데보션
AI

NVIDIA가 개발한 오픈 소스 툴킷: NeMo Guardrails 소개

NeMo Guardrails는 LLM 응답을 YAML 또는 Python 규칙으로 제어하는 오픈 소스 툴킷입니다. 안전한 응답 필터링과 비즈니스 규칙 적용 예시를 함께 소개했습니다.

#LLM#YAML
5600
2025년 DevOps 트렌드 4가지 알아보기
인포그랩
데브옵스

2025년 DevOps 트렌드 4가지 알아보기

2025년 DevOps 트렌드 4가지를 정리했습니다. AI 에이전트, FinOps, 인프라 자동화, 정책 기반 거버넌스의 확산을 다뤘습니다.

#LLM#FinOps
3200