[AWS Summit Seoul 2026] 책임감 없는 AI에이전트, 주인은 누구인가
AI 에이전트는 실행할 수 있지만 책임은 지지 않으므로 사람의 판단과 주권을 설계해야 합니다. Datadog Agent Builder로 데이터 보호, 권한 제한, Human-in-the-loop, 교차 검증, 감사 추적을 구현하는 방법을 소개합니다.
AI 에이전트는 실행할 수 있지만 책임은 지지 않으므로 사람의 판단과 주권을 설계해야 합니다. Datadog Agent Builder로 데이터 보호, 권한 제한, Human-in-the-loop, 교차 검증, 감사 추적을 구현하는 방법을 소개합니다.
이 게시물은 Sim2Real과 Real2Sim이 Reality Gap을 줄여 Physical AI의 현실 배포를 가능하게 하는 핵심 엔진임을 설명합니다. VLM/VLA 성능이 시뮬레이션의 시각·물리 품질과 합성 데이터 파이프라인에 좌우됨을 강조합니다.
생성형 AI를 써도 SDLC의 생산성은 코딩 외 작업 비중과 컨텍스트 단절 때문에 잘 오르지 않는다고 설명합니다. 이를 위해 AI 역할과 사람의 책임을 나누는 AI-DLC의 Inception-Construction-Operation 워크플로우와 AWS Labs 오픈소스를 소개합니다.
규제 환경에서 AI 에이전트의 데이터 접근·도구 사용·행동을 분리 제어하는 아키텍처가 필요함을 설명합니다. 모델 층은 Guardrails로, 에이전트 층은 AgentCore Policy로 통제하고 배포 후에도 평가와 모의 해킹으로 지속 검증합니다.
신한카드는 온톨로지 기반 인텐트 분류와 분산형 Agentic AI로 소형 언어모델도 5초 내 고정확 챗봇을 구축했습니다. 또한 AI-to-AI 자율 업데이트(Tikitaka)로 멀티턴 실패를 분석·수정해 시스템을 스스로 고도화합니다.
AI 에이전트는 도구가 아닌 동료처럼 Plan-Act-Reflect로 업무를 완성하며 AX 전환의 핵심으로 부상했습니다. 성공은 AI에 무엇을 보조할지보다 사람의 역할을 어떻게 바꿀지에 달리며, AWS에서는 Bounded Problem·MCP·엔터프라이즈 연동으로 시작합니다.
패션 이커머스 부정 반품 요청을 AI로 사전 차단하기 위해 Amazon Nova 2 Lite를 Fine-tuning해 Custom Guardrail을 구축했습니다. 도메인 특화 학습으로 Unsafe 탐지 정확도를 73.0%에서 94.6%로 크게 향상했습니다.
전사 비개발 직군이 MCP 기반 연동 환경과 Amazon Quick 교육을 바탕으로 AI Agent 해커톤을 진행합니다. 부서별 현업 과제를 적용해 프로세스 자동화와 지식·데이터 연동 프로토타입을 구현했습니다.
이 글은 외부 라이브러리 업데이트로 인한 의도치 않은 변경을 사전에 감지하는 Baseline 기반 방어 체계를 소개합니다. 의존성 추적과 AndroidManifest 중심으로 Manifest Shield 동작과 AI 제작 흐름을 설명합니다.
ITU/WHO 의료AI 국제표준화 단체 FG-AI4H의 목적과 작업 방식, WG·TG 구조를 소개했습니다. FG-AI4H 회의(15th Meeting) 참관 내용을 바탕으로 deliverable과 Global Initiative 격상 논의도 정리했습니다.