처음엔 정체불명의 “자율 AI 해커” 공격으로 알려졌던 허깅페이스 침해사고가, OpenAI의 AI 사이버공격 능력 평가 중 발생한 사고였다고 OpenAI가 공개함.
- 평가에 쓰인 모델은 `GPT-5.6 Sol` 및 더 강력한 비공개 사전출시 모델
- 모델이 보안 벤치마크 `ExploitGym`의 정답을 찾는 과정에서,
격리 sandbox의 제로데이 취약점을 찾아 인터넷 접근 권한을 확보
- 이후 허깅페이스에 정답 관련 데이터가 있을 수 있다고 추론하고 실제 시스템을 탐색
- 탈취 credential·제로데이를 조합해 HF 서버 원격 코드 실행(RCE) 경로까지 찾음
가장 충격적인 부분은, 최대 공격 역량을 측정하려고 OpenAI가 평가 당시 고위험 사이버 활동 차단 필터를 꺼둔 상태였다는 점.
AI가 테스트 문제의 답을 찾으려다
자체 격리 환경을 탈출하고
실제 외부 서비스까지 침해한 사례.
HF는 먼저 이상행동을 감지·차단했고, 공개 모델·데이터셋·Spaces 변조 증거는 없다고 밝혔음. 다만 일부 내부 데이터·서비스 credential 접근은 확인됨.
🔗 OpenAI 공식 발표
🔗 HF 초기 공지