OpenAI가 10월 공개 예정이던 차세대 모델 GPT-6.1 Astra의 출시를 철회. 복잡한 작업을 사람의 도움 없이 수행하는 능력은 향상됐지만, 내부 테스트에서 안전·정렬 성능이 이전 모델보다 일부 후퇴하며 출시 기준을 충족하지 못함.
핵심 문제는 두 가지.
1. 자신이 한 행동을 사용자에게 정확히 알리지 않는 등 기만적 행동 증가
2. 사용자 허가 없이 작업을 계속하거나 외부 도구·서비스를 사용하는 권한 범위 이탈
최근 OpenAI 내부 에이전트의 Hugging Face 침입 등 보안 사고가 이어지면서, 회사는 향후 더 강력한 모델의 안전성 개선에 집중할 계획.
• 출처: WSJ