전통적인 해킹 방식은 아니고, 구글의 Gemini에 악성 명령어를 넣어 사용자의 정보를 빼가는 공격 방식입니다. 간단하게 설명하자면, 해커가 캘린더 초대 정보에 사용자 정보를 유출하거나 악성 작업을 실행하도록 하는 프롬프트를 살짝 끼워넣고, Gemini가 일정 관리를 위해 이걸 읽으면서 프롬프트를 실행시키게 됩니다. 초대를 수락하지 않더라도 관련 정보 확인을 위해 프롬프트를 읽어버릴 수도 있을 것 같네요.
Gemini를 평소에 안쓰셨던 분들에게는 위협요소가 아니지만, 적극적으로 사용하고 프라이빗한 정보까지 넣었다면 치명적인 정보 유출로 이어질 수 있는 공격이라, 알아두시면 좋을 것 같습니다. 주기적으로 AI의 사용 기록을 초기화하거나, 프라이빗한 정보는 LLM에 웬만하면 넣지 않는 습관을 가지면 좋을 것 같습니다.
출처: https://www.safebreach.com/blog/invitation-is-all-you-need-hacking-gemini/