AI 주도 개발 라이프사이클: 소프트웨어 엔지니어링의 재구상
AI를 개발 프로세스의 중심에 두는 AI-DLC를 소개했습니다. 사람의 감독과 협업을 결합해 속도와 품질을 함께 높이는 접근을 제안했습니다.
#LLM#AWS
10300
국내 IT 기업 기술 블로그 최신 글
필터 1
미리 봅시다!@SK AI SUMMIT 2025 (+ 현장등록 방법, '숨은맛집' 세션소개 포함)
미리 봅시다!@SK AI SUMMIT 2025 (+ 현장등록 방법, '숨은맛집' 세션소개 포함)
SK AI SUMMIT 2025의 행사 정보와 현장등록, 온라인 시청 방법을 정리했습니다. 또한 SK플래닛 발표 주제와 주목할 만한 추천 세션도 함께 소개했습니다.
#LLM#RAG
9100
AI Agent 속도 최적화를 위한 Speculative Decoding
Speculative Decoding으로 AI Agent의 응답 지연을 줄이는 원리를 설명했습니다. Small Model 예측과 Large Model 검증을 결합해 속도 개선 가능성을 제시했습니다.
#LLM#Speculative Decoding
4000
AI로 E2E 테스트를 찍어내다: MAFT
AI로 E2E 테스트를 찍어내다: MAFT
LLM 멀티 에이전트로 API 문서 기반 E2E 테스트 생성 파이프라인 MAFT를 소개했습니다. Noir의 테스트 공백을 줄이기 위해 의존성 분석, 시나리오 생성, 코드 검증을 자동화했습니다.
#LLM#gRPC
9400
AWS Control Tower 리전 제약 조건에서 Amazon Bedrock 크로스 리전 추론 기능 활용 지침
AWS Control Tower의 리전 거부 정책이 Amazon Bedrock 크로스 리전 추론을 막는 문제와 원인을 설명했습니다. SCP와 Control Tower 제어를 조정해 Bedrock만 예외 허용하는 방법을 제시했습니다.
#AWS Control Tower#Amazon Bedrock
2600
API 연동 자동화를 위한 여정: 토스는 왜 사내 MCP 서버를 개발하였는가? with Spring-AI
사내 API 스펙 공유와 연동 자동화를 위해 MCP 서버를 개발한 사례를 소개했습니다. Spring-AI 기반 구현과 운영상 문제 해결, Swagger 자동화 방향까지 정리했습니다.
#MCP#Spring Boot
17100
Velopers 추천광고
쿠팡 파트너스
개발자를 위한 인기 상품을 확인해 보세요
이 게시물은 쿠팡 파트너스 활동의 일환으로, 이에 따른 일정액의 수수료를 제공받습니다.
#개발자#노트북#컴퓨터
Amazon EKS에서vLLM Deep Learning Container를 사용하여LLM 배포하기
Amazon EKS에 vLLM DLC를 적용해 DeepSeek 모델을 배포하는 과정을 설명했습니다. EFA와 FSx for Lustre를 활용해 고성능 추론 환경을 구성했습니다.
#Amazon EKS#vLLM
5000
Eval for Agents와 Google Stax, QA가 주목해야 할 LLM 평가 도구 비교
OpenAI Eval for Agents와 Google Stax의 차이를 QA 관점에서 비교했습니다. 에이전트 전체 흐름 진단은 Eval for Agents, 텍스트 응답 평가와 시각화는 Stax가 강점입니다.
#LLM#QA
3700
SageMaker AI로 해보는 GPT-OSS 추론 성능 테스트와 용량 산정
SageMaker AI에서 GPT-OSS 120B 추론 성능 테스트와 GPU 용량 산정 방법을 다뤘습니다. vLLM과 SGLang을 비교하며 워크로드별 성능 지표와 최적화 포인트를 정리했습니다.
#SageMaker AI#LLM
6900
마케터를 돕는 LLM 기반 DMP - Seg Lens 시스템 개발기
마케터를 돕는 LLM 기반 DMP - Seg Lens 시스템 개발기
LLM과 벡터 검색을 결합해 마케터의 자연어를 실행 가능한 세그먼트로 바꾸는 Seg Lens 개발기를 소개했습니다. 기존 수동 조건 생성의 한계를 줄이고 의미 기반 탐색과 권한 제어를 함께 구현했습니다.
#LLM#DMP
8000
저 유쾌한 친구지만 선은 안 넘습니다. - 에이닷 통화제목 AI 길들이기
통화제목이 더 구체적이고 핵심적인 방향으로 개선되도록 학습데이터와 프롬프트를 재설계했습니다. 또한 3중 안전 장치를 더해 유쾌함은 살리되 불편한 재미요약은 줄였습니다.
#LLM#prompt
4500
경계를 허무는 플랫폼 엔지니어링: 멀티클라우드와 AI 서비스 통합의 핵심 역할
멀티클라우드와 AI 통합을 위해 LLM 비종속 아키텍처와 권한 자동화 체계를 구축했습니다. 또한 호출 로그를 모아 비용을 추적하고 FinOps 인사이트를 확보했습니다.
#멀티클라우드#LLM
1600
if(kakao)25 - 카카오모빌리티의 랩업과 리뷰
if(kakao)25에서 카카오모빌리티가 자율주행 AI와 경로탐색, AI 업무 자동화 사례를 공유했습니다. 실서비스 적용과 기술 교류를 함께 강조한 행사 리뷰였습니다.
#자율주행#강화학습
8500
Agentic AI를 향한 카나나 모델의 진화
X
#LLM#Agentic AI
6400