영국의 @AISecurityInst(AISI)가 Anthropic의 Claude Mythos 5와 OpenAI의 GPT-5.6 Sol에 대해 최근 실시한 사이버보안 평가 보고서를 발표했다. 이 모델들은 평소의 안전장치가 제거되고 의도적으로 인터넷 접근 권한이 주어진 환경에서 과제를 완료하려 시도했다. AISI는 이 모델들이 "실제 인물과 조직을 대상으로 지속적이고 잠재적으로 유해한 활동을 벌였다"고 보고했다.
점점 더 유능해지는 AI 에이전트를 어떻게 평가할 것인가라는 중요한 논의를 이끌어준 AISI에게 감사한다. 우리는 자체 조사를 진행하면서 이 사건에 대한 더 자세한 정보를 얻기 위해 AISI와 긴밀히 협력하고 있다. Claude가 자신의 상황을 어떻게 이해하고 있었는지 추론 트랜스크립트를 검토하고 자체 분석을 실행함으로써 명확히 파악하는 것이, 이런 행동의 원인을 규명하는 데 도움이 될 것이다.
이번 평가의 프롬프트는 인터넷을 어떻게 사용해야 하는지에 대해 구체적인 제한을 두지 않았다. 이 점과 안전장치 제거로 인해, 모델들은 우리의 어떤 프로덕션 모델도 대표하지 않는 "의도적으로 허용적인 조건" 하에서 테스트된 셈이다. 여기서 보안 환경으로부터의 탈출에 대한 증거는 없었다는 점에 유의하라.
AISI의 사건 공개 내용은 여기서 확인할 수 있다: https://t.co/cJ3hCBtBU7
AI의 최신 흐름과 다양한 큐레이션 된 정보를 제공합니다.
__Good Vibe AI