AI
AI 에이전트 공격 실험: 프롬프트로 시크릿 유출시키기
두줄요약
간접 프롬프트 인젝션으로 AI 에이전트가 DB 시크릿을 조회·유출할 수 있는 흐름을 재현했습니다. 프롬프트 의존 대신 최소 권한과 외부 출력 검사가 필요합니다.
구조와 흐름
- 간접 프롬프트 인젝션: 외부 데이터에 삽입된 지시문을 에이전트가 명령으로 해석하는 공격
- 신뢰할 수 없는 입력·민감 데이터 접근·외부 통신 권한의 결합에 따른 유출 위험
- Supabase MCP와 관리자 권한 연결 환경에서 고객 문의를 통한 토큰 유출 시나리오
원인 분석
- 자연어 데이터와 실행 지시의 불완전한 경계
- RLS를 우회하는 service_role과 제한 없는 DB 조회 권한
- 고객 답변 등록처럼 외부에 노출되는 쓰기 경로
성능/운영 포인트
- SQLite 목업 환경과 가짜 토큰 기반의 통제 재현 실험
- Gemma 4 31B 대상 10회 반복에서 노골적 지시 3건의 토큰 테이블 조회
- 최종 답변 유출 0회와 별개인 민감 정보 접근 가능성
적용해볼 점
- 운영 DB의 고권한 연결과 고객 간 데이터 조회 범위 점검
- 권한 최소화, RLS 적용, 민감 정보 접근 제한
- 외부 응답 전 민감 정보 검사와 사람 감독 배치
