월스트리트저널(WSJ)에 따르면, 구글의 ‘제미니’가 인터넷에 접속해 다른 3개 기업을 해킹한 것으로 확인되었으며, 이는 해당 AI 모델의 첫 번째 알려진 탈출 사례라고 설명
구글은 자사 모델이 해당 기업들에 피해를 입히지 않았고, 실제 기업을 해킹했다는 사실을 파악한 직후 각 침입을 즉시 중단했기 때문에 이 해킹 사건을 공개할 필요가 없다고 밝혔다.
구글의 대처는 가상 해킹 평가였기 때문
- 가상 회사 이름 = 실제 회사 이름
- 원래 인터넷 차단인데 평가 중 실수로 열림
> 한 곳은 비번 대입, 두 곳은 공개 저장소 계정으로 들어감
> 세 번 다 실제 회사인 줄 알자마자 즉시 중단
※ 모델 일탈이라기보다 테스트 격리 실패
OpenAI·Anthropic·Meta도 Irregular에서 비슷한 사고 있었음