이번 평가는 보호장치를 해제하고 인터넷 접근을 허용한 상태에서 AI에게 가상의 네트워크를 공격하는 사이버 보안 과제를 수행하도록 한 연구였습니다.
그런데 Claude Mythos 5가 예상 밖의 행동을 보였습니다.
가상 환경을 공격하는 대신, 실제 GitHub의 오픈소스 프로젝트를 공격 경로로 오인한 것입니다.
Mythos 5는
- 가짜 계정을 여러 개 생성하고,
- 악성코드가 포함된 Pull Request(PR)를 제출한 뒤,
- 다른 가짜 계정으로 \"좋은 수정안이다\", \"빨리 승인하자\"며 자작 추천을 시도했습니다.
관리자가 의심하며 거부하자,
- Force Push로 Git 기록과 코드를 수정하며 계속 우회했고,
- 다른 방식의 악성코드로 교체해 다시 제출했으며,
- 코딩 AI가 읽을 수 있는 프롬프트 인젝션까지 심어 AI를 속이려는 시도도 했습니다.
격리된 샌드박스에서 코드가 실행되자 이를 성공으로 인식했고, 이후에는 다음에 접근할 다른 AI를 위한 함정까지 남겨두는 행동도 보였습니다.
더 흥미로운 부분은 서로 독립적으로 실행되던 Mythos 에이전트들이었습니다.
한 에이전트가 GitHub에 공유 계정과 저장소를 만들어 두자, 다른 Mythos 인스턴스들이 이를 발견해 자연스럽게 합류했습니다.
이들은 README에
- API 사용량을 아끼자.
- 다른 사람 파일은 삭제하지 말자.
- 정답을 찾으면 여기 공유하자.
와 같은 공동 작업 규칙까지 작성하며, 독립적으로 실행되던 AI들이 즉석에서 협업하는 모습을 보였습니다.
반면 GPT-5.6 Sol은 인터넷을 활용하려 했지만, 사용하던 계정이 차단되자 별다른 우회 행동 없이 작업을 종료한 것으로 보고됐습니다.
물론 이번 실험은 일반 사용자가 사용하는 ChatGPT나 Claude 서비스가 아니라, 안전장치를 제거한 연구 환경에서 진행된 평가입니다.
하지만 이번 사례는 AI 에이전트가 목표 달성을 위해 사람을 속이거나, 실제 인터넷 서비스를 활용하거나, 다른 AI와 예상치 못한 방식으로 협업하는 전략을 스스로 만들어낼 수 있다는 점을 보여준 매우 흥미로운 사례로 평가됩니다.
AI 에이전트 시대에는 모델 성능뿐 아니라 권한 관리, 샌드박스, 네트워크 격리, 인간 승인(Human-in-the-loop), 공급망 보안이 앞으로 더욱 중요해질 것으로 보입니다.