Amazon Bedrock에서 LLM 게이트웨이의 두 사각지대 메우기: 사라진 호출자와 흐려진 모델 거버넌스
Amazon Bedrock 앞의 LLM 게이트웨이에서 사라진 호출자와 흐려진 모델 거버넌스를 보완하는 방법을 정리했습니다. requestMetadata와 Application Inference Profile로 추적과 관측을 강화하고, 예산과 네트워크 운영도 함께 다뤘습니다.
#Amazon Bedrock#LLM#CloudWatch
900
태그
Amazon Bedrock 기술 블로그 글
Amazon Bedrock 태그가 달린 국내 IT 기업 기술 블로그 글을 최신순으로 모았습니다.
전체 121개최신 20개 표시
관련 태그
최신 게시글
20개 표시
Amazon Bedrock 기반 사내 LLM, 키 발급부터 비용 차단까지: F&F의 LiteLLM 게이트웨이 운영 사례
Amazon Bedrock 위에 LiteLLM 게이트웨이와 사내 포털을 붙여 LLM 키 발급, 승인, 예산 차단을 운영한 사례를 소개했습니다. 셀프서비스 발급과 그룹 기반 통제로 비용과 감사 체계를 함께 묶었습니다.
#Amazon Bedrock#LiteLLM#AWS
700
한화솔루션의 Amazon Bedrock 기반 Claude Cowork 전사 도입 여정 — 사내 LLM Gateway로 완성한 거버넌스
한화솔루션은 Amazon Bedrock 기반의 사내 LLM Gateway로 Claude Cowork를 전사 도입했습니다. 멀티테넌트 인증과 비용·보안 거버넌스로 안전한 AI 활용 체계를 만들었습니다.
#Amazon Bedrock#Claude#LLM Gateway
3200
2주 만에 Strands SDK와 Amazon Bedrock AgentCore로 구현한 어스얼라이언스의 CS 환불 자동응답 에이전트 시스템
Strands SDK와 Amazon Bedrock AgentCore로 환불 CS 자동응답 에이전트를 2주 만에 구축했습니다. 내부 검수 초안 방식과 멀티턴 맥락·안전성 검증을 결합해 운영 가능성을 확보했습니다.
#Amazon Bedrock#LLM#AWS
1200
개인 생산성에서 멈춘 Claude Code, 조직의 생산성으로 – 영상 10개로 완성하는 Claude Code on Amazon Bedrock 학습 플랜
Claude Code를 개인 생산성을 넘어 조직 생산성으로 확장하는 Amazon Bedrock 학습 플랜을 소개했습니다. 10개 영상으로 개인, 팀, 엔터프라이즈 운영까지 이어지는 4단계 로드맵을 제시했습니다.
#Amazon Bedrock#Claude Code#LLM
3800
Claude Apps Gateway on AWS 자세히 알아보기
Amazon Bedrock 기반 Claude 운영을 위한 Claude Apps Gateway의 구조와 구성 요건을 정리했습니다. IdP 연동, 권한 제어, 텔레메트리 중앙화까지 AWS 환경에서의 활용 방법을 소개했습니다.
#AWS#Amazon Bedrock#Claude
13900
Bedrock API Key 하나가 수 천만원 청구서로 돌아온 이유
Bedrock API 키 노출이 대규모 비용 청구로 이어질 수 있는 위험을 설명했습니다. IAM, 로깅, 비용 알림, 사고 대응을 함께 설계해야 한다고 정리했습니다.
#Amazon Bedrock#AWS#보안
5800
Amazon Bedrock 위에 사내 LLM Gateway 구축하기: Claude Code, Codex를 위한 인증·비용·거버넌스
사내 LLM Gateway로 Claude Code와 Codex의 인증, 비용, 모델 접근을 중앙에서 통제하는 설계를 정리했습니다.\nBedrock 기반 멀티 프로바이더 환경에서 예산 차단, 자동 다운그레이드, 감사 추적을 함께 구현한 사례입니다.
#Amazon Bedrock#LLM#인증
3100
Amazon Bedrock 모델 promptfoo 로 성능 평가하기
Amazon Bedrock 모델을 promptfoo로 비교 평가하는 방법을 소개했습니다. 프롬프트와 모델 변경 시 품질을 회귀 테스트처럼 검증할 수 있는 흐름을 설명했습니다.
#Amazon Bedrock#promptfoo#LLM
1900
포스코DX의 엔지니어링 암묵지를 AI가 활용할 수 있는 지식 자산으로 전환하기
포스코DX는 현장 암묵지를 AI가 활용할 수 있는 지식 자산으로 전환하는 PoC를 진행했습니다.\nGraphiti와 Amazon Bedrock 기반 지식 그래프로 설계 규칙을 구조화하고, 검색과 추론까지 자동화했습니다.
#LLM#RAG#지식 그래프
3100
하나투어의 Amazon Neptune과 Amazon Bedrock AgentCore를 활용한 여행상품 기획 에이전트 구축기
하나투어는 Amazon Neptune 기반 GraphRAG와 Bedrock AgentCore로 여행상품 기획 에이전트를 구축했습니다. 수작업 초안 시간을 2~3일에서 2~3분으로 줄이고, 관계 기반 그라운딩으로 환각을 낮췄습니다.
#Amazon Neptune#Amazon Bedrock#GraphRAG
1200
Amazon Bedrock AgentCore로 구축하는 AgentOps (2): 관측성, 평가, 그리고 AgentOps 라이프사이클
Amazon Bedrock AgentCore로 에이전트 운영의 관측성, 평가, 최적화를 하나의 AgentOps 사이클로 정리했습니다. 트레이스와 메트릭, 로그를 바탕으로 품질과 안전성을 지속 개선하는 흐름을 설명했습니다.
#Amazon Bedrock#AgentOps#관측성
400
의뢰자가 가장 어려워하는 단계를 AI로: Strands Agents SDK를 활용한 라우드소싱의 공모전 브리핑 작성 에이전트
공모전 브리핑 작성의 진입 장벽을 낮추기 위해 AWS Bedrock과 Strands Agents SDK 기반 AI 에이전트를 도입했습니다. 초안 생성과 검수, 분석을 분리해 응답 속도와 운영 효율을 높이고, 브리핑 이탈률도 줄였습니다.
#LLM#RAG#Amazon Bedrock
600
단일 LLM Gateway 아키텍처 : Claude Code와 Codex를 Amazon Bedrock을 통해 한 곳에서
Claude Code와 Codex를 Amazon Bedrock에서 함께 쓰기 위한 단일 LLM Gateway 아키텍처를 소개했습니다.개발자 선택의 자유를 유지하면서 인증, 예산, 보안, 관측을 한곳에서 통합하는 운영 방안을 정리했습니다.
#LLM#Amazon Bedrock#Claude Code
2200
[AWS Summit Seoul 2026] Amazon’s AI Strategy로 본 에이전틱 AI 전환
Amazon의 AI 전략을 통해 에이전틱 AI가 고객 경험과 운영을 어떻게 바꾸는지 정리했습니다. 또한 AgentCore와 AI-DLC를 바탕으로 기업 AI 도입 시 고려할 운영·개발 포인트를 소개했습니다.
#AWS#LLM#생성형 AI
14300
![[AWS Summit Seoul 2026] Amazon’s AI Strategy로 본 에이전틱 AI 전환](https://tech.cloud.nongshim.co.kr/wp-content/uploads/tech_thumbnail.png)
Amazon Bedrock Vision LLM과 Amazon OpenSearch Service를 활용한 농약 제품 이미지 인식 시스템 구축기
농약 제품 사진을 인식해 정보를 찾는 3단계 AI 검색 시스템을 구축했습니다. Vision LLM 오인식을 오타 보정, OpenSearch Fallback, LLM Reranker로 보완했습니다.
#Amazon Bedrock#OpenSearch Service#LLM
3200
Amazon Bedrock 위에서 Codex와 Claude Code 함께 쓰기: Harness Engineering으로 구현해보기
Amazon Bedrock에서 Claude Code와 Codex를 함께 돌리는 협업 하네스를 구현해 48런 실험을 진행했습니다. 단독 실행보다 교차 리뷰가 버그를 더 잘 잡았고, 하네스 설계가 결과를 좌우함을 확인했습니다.
#Amazon Bedrock#Claude Code#Codex
6300
프롬프트 인젝션 방어: AgentCore 기반 다층 보안 설계 패턴
프롬프트 인젝션에 대비해 에이전트 보안을 LLM 밖의 인프라에서 강제하는 다층 방어 패턴을 설명했습니다. AgentCore, JWT 전파, RLS, Index Mapper로 사용자 간 데이터 경계를 지키는 방법을 정리했습니다.
#LLM#보안#AWS
3000
이커머스 부정 반품 요청, AI로 차단한다: Amazon Nova Fine-tuning으로 산업 특화 가드레일 구성하기
패션 이커머스의 부정 반품 요청을 차단하기 위해 Amazon Nova 2 Lite를 Fine-tuning해 도메인 특화 가드레일을 구축했습니다. 837개 샘플 학습으로 Unsafe 탐지 정확도를 94.6%까지 높였고, 소형 모델의 비용 효율성도 확인했습니다.
#LLM#RAG#fine-tuning
1000
RIMAN KOREA의 Amazon Bedrock Knowledge Bases를 활용한 자연어 기반 상품 검색 시스템 구축기
기존 상품명 중심 검색의 한계를 해결하기 위해 Amazon Bedrock Knowledge Bases 기반 자연어 검색 시스템을 구축했습니다. 하이브리드 검색과 메타데이터 필터링, 병렬 처리로 정확도와 응답 속도를 개선했습니다.
#Amazon Bedrock#검색#RAG
4000
