1️⃣ 사건 개요
- 멕시코 정부 기관에서 약 150GB의 데이터가 유출
- 약 2억 명의 납세 기록, 유권자 정보, 정부 자격 증명, 시민 등록부 등 민감 정보 포함
2️⃣ 해킹 수법
- 클로드 코드를 활용해 해킹
- 보안 회사의 직원인 척하며 버그 바운티 중이라며
- 클로드를 가스라이팅, 윤리적 가드레일을 무력화
- 공격 단계를 잘게 쪼개서 작고 무해한 코딩 작업들로 세분화
- 클로드가 해당 작업을 악의적이라고 생각하지 못하게 만듦
3️⃣ 해당 사건의 시사점
- AI가 주도적으로 공격한 사건임
- 잘게 쪼갰지만 합쳐서 보면 AI가 공격했다는 뜻
- 인간이 따라갈 수 없는 기계적인 속도로 공격
4️⃣ 현재 상황
- 앤트로픽은 해당 공격 탐지 후 관련 계정 차단
- 클로드에 실시간 보안 스캐닝 기능 강화
- 에이전트 도구가 악용되지 않도록 네트워크 접근 제어 강화 조치
✍️ 소셜 엔지니어링이라고 인간 대 인간으로도 유행하던 기법이랑 비슷한 수법이라 볼 수 있을 듯
근데 조치 취한다고 해도 저런 행위를 근본적으로 차단하는건 어려울 듯함. 아무래도 앞으로 여기저기 털리는 소식 많이 보게 될 것 같음.
국내 공공기관들도 시대 변화 흐름 맞춰서 시스템 싹 갈아엎어야 하지 않을까... 너무 구식에 머무른 곳들이 많음😊
#AI
#해킹