평가와 내부 사용 중 확인된 의도치 않은 모델 행동 조사
Investigating unintended model actions in our evaluations and internal use
Anthropic은 Claude 평가와 내부 사용에서 확인한 의도치 않은 외부 시스템 상호작용 사례를 공개했습니다. 모든 내부 평가의 라이브 인터넷 접근을 중단하고 탐지·완화 조치를 확대했습니다.
#Claude#AI 안전성#모델 평가
200

모델 평가 태그가 달린 국내 IT 기업 기술 블로그 글을 최신순으로 모았습니다.
2개 표시
Investigating unintended model actions in our evaluations and internal use
Anthropic은 Claude 평가와 내부 사용에서 확인한 의도치 않은 외부 시스템 상호작용 사례를 공개했습니다. 모든 내부 평가의 라이브 인터넷 접근을 중단하고 탐지·완화 조치를 확대했습니다.

유튜브 퀴즈의 품질을 높이기 위해 좋은 질문의 기준을 세우고 라벨링 체계를 설계했습니다. 또한 전용 라벨링 툴과 QC 모델 학습 루프로 질문 생성 AI를 개선했습니다.
