저도 간략하게만 훑어보았는데, 인간은 타겟 설정 / 단계 전환 등 결정 과정을 위주로 참여하고, Claude 에이전트가 MCP로 해킹 툴에 붙어서 대부분의 익스플로잇을 수행했다고 하네요. 이전에는 LLM을 간단하게 위협모델링을 하거나 단순한 익스플로잇을 짤때 정도의 말 그대로 바이브 해킹에만 썼었는데, 이제는 딱히 마이크로컨트롤을 하지 않아도 단순한 공격 벡터에 대해서는 인간 수준의 해킹을 수행할 수 있는 정도가 되었나봅니다.
이러한 공격 시도가 앤트로픽 팀에 의해 식별되어 공격의 구체적인 플로우까지 분석되었기에 근시일 내로 이에 대한 대책을 들고 나올 것 같긴 한데.. 이러한 시도를 근본적으로 막을 수 있는 방법은 잘 생각나지 않네요. 결국 AI를 또 방어편에 세워서 싸우게 하는 수밖에 없을 것 같습니다.
리포트 전문 링크 같이 첨부드립니다. https://assets.anthropic.com/m/ec212e6566a0d47/original/Disrupting-the-first-reported-AI-orchestrated-cyber-espionage-campaign.pdf