Amazon Bedrock 기반 PolicyGuard: 코딩 어시스턴트를 위한 Pre-Model Semantic DLP 프레임워크
AI 코딩 어시스턴트의 프롬프트 유출 문제를 막기 위한 Pre-Model DLP 프레임워크 PolicyGuard를 소개했습니다. 자연어 정책 파일과 Hook 기반 차단으로 Bedrock 환경에서 민감 정보 보호를 강화하는 방법을 다뤘습니다.
#Amazon Bedrock#LLM
2200
국내 IT 기업 기술 블로그 최신 글
새로운 기술 블로그가 추가되었어요
필터 1
코딩 에이전트를 활용한 취약점 수집·생성 자동화로 가드레일 모델 고도화
LLM 가드레일의 오탐 문제를 줄이기 위해 코딩 에이전트 기반 자동화 테스트 파이프라인을 구축했습니다. 카테고리별 입력 생성과 평가를 분리해 취약점 탐색과 모델 고도화를 반복 가능하게 만들었습니다.
#LLM#prompt injection
13100
완벽한 AI 가드레일을 향한 여정: NeurIPS 2025 최신 안전성 기술 분석
NeurIPS 2025에서 다뤄진 AI 가드레일 연구 흐름을 정책 코드화, 멀티모달 안전성, 프롬프트 인젝션 방어 관점에서 정리했습니다. 실서비스에서 안전성과 사용성을 함께 만족시키는 방향으로 가드레일이 진화하고 있음을 설명했습니다.
#LLM#VLM
8900
LLM Guardrails 2.0: 필터링을 넘어 추론 기반 보안 체계로 진화하는 AI 안전성 아키텍처
LLM Guardrails 2.0: 필터링을 넘어 추론 기반 보안 체계로 진화하는 AI 안전성 아키텍처
LLM 가드레일이 단순 필터를 넘어 추론 기반 보안 체계로 진화한 흐름을 정리했습니다. 기업 적용 시 다층 방어, 정책 엔진, 도구 호출 보안이 핵심이라고 설명했습니다.
#LLM#RAG
5100