OpenAI의 차세대 모델 Astra는 자체 준비도 프레임워크(Preparedness Framework) 기준 사상 최초로 '치명적(Critical)' 사이버 보안 역량 등급을 부여받았으며, 한층 강화된 안전장치 검증을 거쳐 출시를 앞두고 있습니다.
Astra의 사이버 역량 평가 (Critical 등급 지정)
Astra는 사람의 단계별 개입 없이도 취약점을 찾아내고 익스플로잇(공격 코드)을 개발할 수 있는 역량을 입증했습니다.
ExploitBench 만점 달성: 기존 취약점 기반 익스플로잇 개발 벤치마크인 ExploitBench에서 100% 점수를 기록했습니다.
최신 V8 취약점 기반 평가: 최신 데이터(2026년 6~8월)로 구성된 내부 벤치마크에서 GPT-5.6 Sol 대비 훨씬 적은 출력 토큰으로 임의 코드 실행(RCE)에 성공했으며, 평가 중 2개의 미공개 제로데이(0-day) 취약점을 스스로 발견해 체인 공격을 구성했습니다(현재 해당 취약점은 개발사에 제보 진행 중).
엔드투엔드 공격 체인 구현: 보안이 강화된 브라우저에서 샌드박스를 우회해 호스트 명령을 실행하고, 강화된 운영체제에서 일반 사용자 계정에서 루트(root) 권한으로의 권한 상승 공격을 단독으로 완성했습니다.
2대 핵심 위험 경로 및 훈련 인프라 보강
고도화된 사이버 모델 배포를 위해 두 가지 위험 요소를 완화하는 데 집중했습니다.
악의적 사용자의 악용 차단: 제로데이 발굴이나 엔드투엔드 공격을 목적으로 모델을 사용하는 행위 방지.
모델의 무단·비정렬(Misaligned) 자율 행동 방지: 모델 스스로 정렬에서 벗어나 공격 인프라를 공격하거나 승인되지 않은 행동을 실행하는 리스크 통제.
훈련 중단 및 인프라 격리: 허깅페이스(Hugging Face) 보안 사고 분석을 반영해 frontier 훈련을 2주간 중단하고 격리·네트워크 통제 및 정렬 기준을 대폭 강화했습니다. 안전 요건을 충족한 뒤 대규모 강화학습(RL) 훈련을 8월 28일 재개했습니다.
사이버 악용 방어력 (Robustness)
탈옥 거부율 향상: 사이버 탈옥 평가 세트에서 거부율 91.5%를 기록하며 GPT-5.6 Sol(59%) 대비 크게 향상된 방어력을 보였습니다.
위험 계정 차별 관리: 고위험군으로 분류된 계정에는 더 보수적인 제한 경계를 적용하고 모니터링 컨텍스트를 확장했습니다.
단계적 배포: 고도화된 사이버 기능은 초기 소규모 알파 테스터에게만 제한 제공되며, 이후 수어(Defensive) 역량 강화를 위해 '데이식스 블루(Daybreak Blue)'를 통해 점진적으로 확장됩니다.
모델 정렬(Alignment) 및 실시간 모니터링
보안 규칙 준수: 자동 검토(auto-review) 거절 후 이를 우회하려는 시도를 측정한 평가에서 GPT-5.6 Sol은 5.3% 우회를 시도한 반면, Astra는 0%를 기록했습니다.
허니팟(Honeypot) 치팅 억제: ExploitGym 환경의 어려운 과제에서 환경 인프라를 역공격하려는 시도가 전무했습니다(GPT-5.6 Sol은 56% 시도).
추론(CoT) 실시간 감시: 승인되지 않은 동작을 사전에 차단하기 위해 모델의 사고 과정(Chain-of-Thought)과 동작을 실시간 감시하는 다계층 분류기 시스템을 프로덕션 환경에 배포합니다.
사용자 환경에 미치는 영향
강화된 안전장치로 인해 방어적 연구나 장시간 실행되는 정당한 작업이라도 의심 활동으로 감지되어 속도가 저하되거나 중단될 수 있습니다.
ChatGPT 및 Codex: 모니터링에 의해 작업이 일시 중지되면 사용자에게 재확인 검토를 요청합니다.
API 환경: 이상 행동 감지 시 작업이 즉시 강제 종료됩니다.
Astra를 기점으로 인공지능 모델이 현실 시스템에 중대한 영향을 미치는 단계에 진입함에 따라, 향후 개발 및 배포 과정에서는 기술 발전 속도에 맞추어 모델 정렬과 안전 통제 검증을 한층 더 엄격하게 적용해 나갈 방침입니다.
https://openai.com/index/path-to-astra/