AI
AI 행동 지침서 ‘시스템 프롬프트’ 해부 \:\ Claude·GPT·Gemini 실전 비교와 인젝션 방어 전략
두줄요약
Claude·GPT·Gemini의 시스템 프롬프트 특징을 비교하고, 이를 에이전트 설계에 적용한 사례를 정리했습니다. 또한 프롬프트 인젝션 방어와 가드레일 전략도 함께 다뤘습니다.
핵심 내용
- 시스템 프롬프트를 AI의 역할, 행동 방식, 응답 형식을 좌우하는 초기 지시로 정의
- Claude Sonnet 4, GPT-4.1, Gemini 2.5 Pro의 시스템 프롬프트 특징을 비교하고 실제 에이전트 프롬프트 설계에 응용
- 프롬프트 인젝션을 주요 위협으로 보고, 가드레일과 인용 무결성, 도구 호출 격리 같은 방어 전략을 정리
적용해볼 점
- 모델별 프롬프트 철학에 맞춰 역할·톤·안전 정책을 분리해 설계
- 사용자 입력과 도구 호출을 분리하고, 우선순위와 검증 규칙을 명확히 설정
- 인젝션 패턴 점검과 출처 기반 검증을 습관화