Velopers
모든 태그
태그

LLM 기술 블로그 글

LLM 태그가 달린 국내 IT 기업 기술 블로그 글을 최신순으로 모았습니다.

전체 1,147개최신 20개 표시
홈에서 필터

관련 태그

#자동화365#AWS837#MCP280#test264#ML382#모니터링311#CI/CD270#RAG256#prompt245#Spring Boot229#EKS117#SQL74

최신 게시글

20개 표시

AI

MCP 서버와 에이전트 호스트, 왜 둘로 나누었는가

MCP 서버와 에이전트 호스트를 책임과 통제 경계에 따라 분리한 설계를 설명했습니다. 승인 제안·폼 정의의 소유권을 서버로 모아 ID 노출과 조용한 실패를 줄였습니다.

#MCP#LLM#Java
2000

AI

조직을 위한 AI 에이전트는 어떤 형태일까? Amazon Quick Hands-on Day 현장

Amazon Quick으로 사내 데이터와 업무를 연결하는 AI 에이전트 실습을 소개했습니다. 보안 거버넌스와 자연어 기반 분석·자동화 기능을 함께 다뤘습니다.

#Amazon Quick#AWS#AI 에이전트
1700

AI

[AI활용] AI 자동화, 어디서부터 시작해야 할까?

반복 입력 업무의 암묵지를 찾아 AI 자동화 대상으로 정의한 과정을 소개했습니다. 하드코딩 대신 룰셋을 데이터로 분리해 유지보수 가능한 팀 시스템으로 전환했습니다.

#LLM#자동화#Jira
2700

AI

LLM이 만든 SQL을 믿고 실행하기까지: A2A 기반의 대화형 BI 애플리케이션 개발기

A2A 역할 분리와 온톨로지 기반 RAG로 대화형 BI의 지표 해석 근거를 보강했습니다.\nQuery Guardrail의 RLS·CLS 검증으로 LLM 생성 SQL의 실행 안전성을 통제했습니다.

#LLM#SQL#A2A
3100

데브옵스

Jev로 판단하고 AWS DevOps Agent로 조사하는 AI 팀원 만들기

Jev와 AWS DevOps Agent를 결합한 Slack DevOps 봇의 판단·조사 구조를 소개했습니다.\n규칙보다 팀 지식과 피드백을 활용해 품질을 높이고 관리형 에이전트 한계를 보완했습니다.

#AWS#EKS#A2A
2400

AI

코드 생성에서 개발 라이프사이클 전체를 AX로

AI 코드 생성 확산에 맞춰 테스트와 운영 분석까지 자동화하는 AX 개발 흐름을 제안했습니다. 기존 테스트 도구와 AI를 연결해 운영 문제를 테스트로 환류하는 방식을 설명합니다.

#LLM#자동화#test
3800

AI

Jev로 AI 글 냄새 잡기 - 판정 모델을 교정 파이프라인 세 곳에 붙인 기록

Jev를 원고 교정·문체 탐지·자동 발행 점검에 적용해 조건부 활용 방식을 검증했습니다. 문단 판정은 Jev, 반복 규칙은 코드, 사실 검증은 별도 단계로 분리해야 합니다.

#Jev#LLM#prompt
14000

AI

[클로바시선 #58] 속도와 비용의 열쇠: 멀티모달 AI 학습을 갉아먹는 ‘이미지 토큰 불균형’ 이야기

이미지 토큰 편차로 발생한 멀티모달 학습 GPU 부하 불균형을 분석했습니다. Pack 재배치와 통신 오버랩으로 품질 저하 없이 처리량을 13.3% 높였습니다.

#LLM#멀티모달#VLM
900

AI

MCP server 개발기

Spring AI로 사내 REST API를 MCP 도구로 노출하는 서버 구축 과정을 정리했습니다.\n프로토콜 처리는 위임하고 도구 설계·설명·인증을 핵심 과제로 제시했습니다.

#MCP#Spring AI#Spring Boot
3300

AI

[신청 중] ​AI 제품을 만들 때, 자체 모델과 검색엔진은 언제 필요할까요?

실제 AI 제품에서는 모델 성능뿐 아니라 검색 품질과 속도, 사용자 경험까지 함께 고려해야 합니다. 이번 밋업에서는 자체 모델 학습과 검색엔진 고도화 사례를 공유합니다.

#ML#검색#AI Agent
4100

AI

[AI 트렌드] 모델은 사는 것, 자산은 쌓는 것 — Domain Data와 Harness

AI 시대의 진짜 자산은 모델이 아니라 현장에서 쌓이는 도메인 데이터와 하네스라고 설명했습니다. 업의 본질은 그대로지만, 프로세스를 바꾸는 힘이 경쟁력을 만든다고 정리했습니다.

#LLM#data#모니터링
2900

AI

LLM을 믿기 전에, 의심부터 했습니다

LLM이 만든 결과를 그대로 믿지 않고, JSON Schema와 Validator로 원문 근거를 검증하는 구조를 소개했습니다. 누락은 질문으로 남기고, 오류 응답과 실행 기록을 보존해 회귀 평가에 활용했습니다.

#LLM#JSON Schema#Structured Output
2800

AI

Agentic Workflow 설계하기

LLM 기능을 단순 연결하는 대신 Workflow Loop와 Domain Adapter로 판단과 실행 책임을 분리했습니다. 사용자 Interaction과 스냅샷 승인까지 구조화해 Agentic Workflow의 재개와 검증을 안정화했습니다.

#LLM#workflow#JPA
5000

기타

Antigravity SDK 로컬 AI 모델 지원 등 9월 넷째 주 Google for Developers 위클리 업데이트를 지금 확인하세요!

9월 넷째 주 Google for Developers의 주요 업데이트를 모아 소개했습니다. AI, Android, Flutter 관련 새 소식과 번역본 안내를 함께 전했습니다.

#Android#Flutter#LLM
2500

AI

LLM 하나만 믿지 마세요 — 모든 LLM을 관점별로 싸우게 한 코드리뷰, Code Review War

같은 PR도 LLM과 프롬프트에 따라 놓치는 결함이 달라질 수 있음을 짚었습니다. 여러 LLM을 동시에 활용해 관점별 코드리뷰를 시도하는 Code Review War를 소개했습니다.

#LLM#code review#prompt
4700

AI

[기술분석] AI 추론 메모리 병목과 서버 아키텍처 변화

장문 컨텍스트와 RAG, AI 에이전트 확산으로 추론 병목이 메모리와 데이터 이동 경로로 옮겨가고 있습니다. GPU 중심 설계보다 HBM, DRAM, SSD를 함께 보는 계층형 아키텍처가 중요하다고 설명했습니다.

#LLM#RAG#KV Cache
2000

AI

루프 엔지니어링 실전: Claude Code /goal 분석과 Stop 훅 재구현

루프 엔지니어링과 Claude Code /goal의 동작 원리를 분석하고, Stop 훅으로 유사 기능을 재구현한 사례를 정리했습니다. 완료 조건을 측정 가능하게 설계하고 예외 종료를 함께 준비하는 것이 핵심이라고 설명했습니다.

#Claude Code#LLM#자동화
2600

AI

쉼 없이 도는 테스트, 사람이 어디까지 돌봐야 할까요? - 토스닥터(Toss Doctor)

매주 반복되던 스모크 테스트를 자동화하고, 실패 원인 분석과 복구까지 맡기는 토스닥터 V2를 소개했습니다. 사람은 검증할 대상과 자동화 범위 설계에 더 집중할 수 있게 됐습니다.

#test#자동화#LLM
12700

데브옵스

쿠버네티스로 여는 AI 추론 인프라

쿠버네티스와 AWS EKS를 활용해 LLM 추론 인프라를 안정적으로 운영하는 방법을 설명했습니다. 특히 KV 캐시를 고려한 라우팅과 prefill/decode 분리를 통해 성능과 비용을 함께 개선하는 흐름을 다뤘습니다.

#Kubernetes#LLM#AWS
2800

AI

측정할 수 없으면 개선할 수 없다 - AI Pick 추천 카드를 위한 sLLM 정렬 학습기

AI Pick 카드 생성 품질을 높이기 위해 SFT 이후 정렬 학습과 평가 지표를 설계한 과정을 공유했습니다. 형식 검증기와 NLL 프록시로 선호 쌍을 만들고 DPO, GRPO로 품질과 형식을 함께 개선했습니다.

#LLM#DPO#GRPO
5500