안전성 개요: GPT-6 Astra
Safety overview: GPT-6 Astra
OpenAI가 사이버 보안 역량 Critical 등급의 GPT‑6 Astra를 출시했습니다. 탈옥·오정렬 대응은 강화됐지만 적대적 조건의 CoT 모니터 회피 위험도 확인했습니다.
#GPT-6 Astra#사이버 보안#정렬
000

CoT 태그가 달린 국내 IT 기업 기술 블로그 글을 최신순으로 모았습니다.
3개 표시
Safety overview: GPT-6 Astra
OpenAI가 사이버 보안 역량 Critical 등급의 GPT‑6 Astra를 출시했습니다. 탈옥·오정렬 대응은 강화됐지만 적대적 조건의 CoT 모니터 회피 위험도 확인했습니다.

베스트 리뷰 요약의 범용성·시의성 한계를 해결하기 위해 LLM 리뷰 선별을 실험했습니다. CoT와 판단 근거 응답을 적용해 검수 정확성과 결론의 투명성을 높였습니다.

ACL 2023의 NLP·LLM 논문 18편을 핵심 방법과 실험 결과 중심으로 리뷰했습니다. CoT, 인스트럭션 튜닝, 데이터 생성·평가, 다국어 일반화의 한계를 함께 살펴봤습니다.