모든 태그
태그

프롬프트 인젝션 기술 블로그 글

프롬프트 인젝션 태그가 달린 국내 IT 기업 기술 블로그 글을 최신순으로 모았습니다.

최근 30일 4개 · 많이 쓴 회사 인포그랩·라인·클라우드메이트

전체 12개최신 12개 표시
홈에서 필터

프롬프트 인젝션 글을 많이 쓴 회사

최신 게시글

12개 표시

AI

AI 시대 필수 보안: 외부 가드레일 완벽 가이드

LLM 외부에서 입력과 출력을 검증하는 다섯 가지 AI 가드레일 설계를 소개합니다. 비용·정책 관리·모델 교체에 유연한 안전 운영 계층을 설명합니다.

#LLM#프롬프트 인젝션#PII
1000

AI

의료 AX 가속을 위한 안전판

병원 생성형 AI 활용 시 필요한 개인정보·의료 규제 점검 항목을 정리했습니다. 입출력 검사와 기록 관리로 AI 보안을 강화하는 SecureBridge를 소개합니다.

#생성형 AI#LLM#보안
1000

AI

AI 에이전트 공격 실험: 프롬프트로 시크릿 유출시키기

간접 프롬프트 인젝션으로 AI 에이전트가 DB 시크릿을 조회·유출할 수 있는 흐름을 재현했습니다. 프롬프트 의존 대신 최소 권한과 외부 출력 검사가 필요합니다.

#LLM#프롬프트 인젝션#MCP
2500

AI

[현장 스케치] AI 에이전트 시대, 사이버보안은 어떻게 달라지고 있을까? - GovWare 2026

GovWare 2026에서 AI 에이전트 보안 위협과 간접 프롬프트 인젝션 사례를 살펴봤습니다. 실행 맥락 검증과 데이터 출처 추적, 사람의 감독 필요성을 정리했습니다.

#AI 에이전트 보안#프롬프트 인젝션#제로트러스트
400

AI

GPT-Red: 견고성 향상을 위한 자기 개선의 실현

GPT-Red: Unlocking Self-Improvement for Robustness

OpenAI가 자기 대결로 프롬프트 인젝션을 찾는 자동 레드팀 GPT‑Red를 공개했습니다. GPT‑5.6 Sol은 이를 학습에 활용해 직접 프롬프트 인젝션 실패를 크게 줄였습니다.

#GPT-Red#프롬프트 인젝션#레드팀
000

AI

제품 전반에서 Claude의 영향 범위를 제한하는 방법

How we contain Claude across products

Anthropic은 Claude 제품별 격리 구조와 에이전트 보안 운영 경험을 공유했습니다. 모델 방어와 함께 실행 환경·도구 권한 경계가 필요하다고 강조했습니다.

#Claude#Claude Code#claude.ai
1100

기타

[26년 5월] AI 쓰세요? 그럼 미리 봐야 할 2026 하반기 보안 트렌드

AI 보안 위협과 제로 트러스트, Kubernetes·Container 보안 흐름을 소개했습니다. 서버리스 DB와 공공 모바일 업무, AI 돌봄 서비스 사례도 함께 전했습니다.

#AI Agent#프롬프트 인젝션#Kubernetes
1000

AI

AI 제품 개발 중 마주칠 수 있는 보안 위협 사례와 대책 방안

AI 제품 개발에서 발생할 수 있는 보안 위협 사례 다섯 가지를 소개했습니다.입력 검증, 권한 최소화, 벡터 보호 같은 대응 방안을 정리했습니다.

#보안#프롬프트 인젝션#RAG
3800

AI

MCP 보안 위협과 실무 대응 전략 알아보기

MCP 환경에서 발생할 수 있는 주요 보안 위협 6가지를 정리했습니다. 최소 권한 원칙과 시크릿 관리, 실행 환경 격리로 대응하는 방안을 소개했습니다.

#MCP#보안#프롬프트 인젝션
2100

데브옵스

DevOps를 위한 AI 가드레일 플레이북 \:\ 프롬프트 인젝션·개인정보 유출 차단 실전

LLM 활용이 늘며 프롬프트 인젝션과 개인정보 유출을 막는 AI 가드레일의 필요성을 정리했습니다. 입력·출력 검증 구조와 간단한 구현 예제로 실무 적용 방향도 제시했습니다.

#LLM#보안#프롬프트 인젝션
2200

AI

AI 행동 지침서 ‘시스템 프롬프트’ 해부 \:\ Claude·GPT·Gemini 실전 비교와 인젝션 방어 전략

Claude·GPT·Gemini의 시스템 프롬프트 특징을 비교하고, 이를 에이전트 설계에 적용한 사례를 정리했습니다. 또한 프롬프트 인젝션 방어와 가드레일 전략도 함께 다뤘습니다.

#LLM#prompt#보안
2500

AI

AI가 말을 듣지 않는다. 이제 AI Red Teaming이 필요하다.

AI가 단순 답변을 넘어 실제 행동을 수행하면서 새로운 보안 위협이 커지고 있습니다. 이를 검증하기 위해 AI Red Teaming과 최소 권한, 가드레일 같은 방어 전략이 필요하다고 설명합니다.

#LLM#MCP#프롬프트 인젝션
5900