코딩 에이전트를 활용한 취약점 수집·생성 자동화로 가드레일 모델 고도화
LLM 가드레일의 오탐 문제를 줄이기 위해 코딩 에이전트 기반 자동화 테스트 파이프라인을 구축했습니다. 카테고리별 입력 생성과 평가를 분리해 취약점 탐색과 모델 고도화를 반복 가능하게 만들었습니다.
#LLM#prompt injection
112005분
필터 1
완벽한 AI 가드레일을 향한 여정: NeurIPS 2025 최신 안전성 기술 분석
NeurIPS 2025에서 다뤄진 AI 가드레일 연구 흐름을 정책 코드화, 멀티모달 안전성, 프롬프트 인젝션 방어 관점에서 정리했습니다. 실서비스에서 안전성과 사용성을 함께 만족시키는 방향으로 가드레일이 진화하고 있음을 설명했습니다.
#LLM#VLM
75005분
LLM Guardrails 2.0: 필터링을 넘어 추론 기반 보안 체계로 진화하는 AI 안전성 아키텍처
LLM Guardrails 2.0: 필터링을 넘어 추론 기반 보안 체계로 진화하는 AI 안전성 아키텍처
LLM 가드레일이 단순 필터를 넘어 추론 기반 보안 체계로 진화한 흐름을 정리했습니다. 기업 적용 시 다층 방어, 정책 엔진, 도구 호출 보안이 핵심이라고 설명했습니다.
#LLM#RAG
45005분