[AWS Summit Seoul 2026] 책임감 없는 AI에이전트, 주인은 누구인가

핵심 내용

• AI 에이전트의 자율성 확대에 따른 거버넌스·보안·책임 문제 제기
• 무분별한 도입의 위험과 함께 가드레일 기반 활용 필요성 강조

구조와 흐름

• 프롬프트 엔지니어링의 한계와 하네스 엔지니어링의 필요성 대비
• 권한 최소화, 인간 승인, 멀티 에이전트 교차 검증으로 제어 구조 설계
• Datadog Agent Builder의 데이터 보호, 범위 제한, 감사 추적, 체이닝 기능 소개

적용해볼 점

• AI는 실행만 맡기고 최종 판단은 사람이 담당하는 운영 방식
• 외부 연동과 액션 권한을 세분화한 안전장치 구성
• 감사 가능성과 히스토리 관리를 포함한 워크플로 설계