스탠퍼드, 하버드, MIT 등 여러 연구진이 공동 발표한 논문

자율형 AI 에이전트가 24시간 이메일과 디스코드, 파일 시스템에 자유롭게 접근한다면 어떤 일이 벌어질까?

외부인이 "비밀을 지켜달라"고 요구하자, 에이전트는 이메일 서버 전체를 삭제

낯선 사람이 긴급함을 연출하자, 에이전트는 주인의 SSN과 의료 기록이 담긴 이메일을 그대로 전달

에이전트들끼리 끝없는 루프에 빠져 6만 토큰을 소모

닉네임을 주인 이름으로 바꾼 사람을, 에이전트는 주인으로 인식하고 시스템을 셧다운

👉 원문