• 공격자는 abliterated(가드레일을 제거하도록 추가훈련된) 모델과 상당한 규모의 컴퓨트 리소스를 가지고 매우 고도화된 사이버공격을 수행
• Railway 빌드 인프라에 대한 권한 상승(privilege escalation) 시도 확인 및 성공했을 가능성 확인
• 취약점을 찾고 고쳤으나 이미 공격자는 CI에 침투해 Railway 내부 API키 등을 해독하여 탈취하는 데에 성공
• 이를 통해 Railway 내부 데이터베이스에 접근하여 사용자들의 환경변수를 대량으로 조회했으며 일부는 복호화함.
• 로그 분석에 따르면, 공격자의 주 목적은 다른 AI 서비스에 대한 API키를 탈취해 모델 증류에 사용하려던 것으로 추정됨(이는 OpenCode 콘솔 해킹 사례와 유사)
• 결과적으로, 전체 workspace들 중 최대 1.85%가 노출되었을 수 있음(대략 10만개). AI 모델 제공자(OpenAI, Anthropic, XSI, OpenRouter, ...) 에 선제적으로 연락하여 고객들의 API키를 revoke 하도록 요청했음.
• 본인이 Railway workspace에 아주 많은 환경변수를 넣어뒀거나, AI 서비스 관련 API키를 넣어뒀었다면 고위험군이므로 우선적으로 공격자가 목표했을 것이라고 생각해야 함. (사실 아니어도 그냥 API키들 올렸던건 다 재발급 해야)
Railway가 욕을 뒤지게 먹고 있는건 자기들 시스템이 털린걸 인지하고도(권한 상승 시도 포함) 십수시간 뒤에야 API키 교체하라고 공지해서인데, 이건 자기들 해명에 따르면 공격자와 방어자가 둘다 라이브로 대응하고 있어서 공격받는 시점에서는 API키를 교체하더라도 즉시 다시 털릴 위험이 있었기 때문에 완벽히 대응하고 공지하고 싶었다고 함(??)
그냥 대응팀이 대응하다가 뇌정지 왔던 거 같은데 좀 불쌍하네요. 가이드라인 풀린 오픈모델을 swarm으로 몰고 다니는건 어떻게 보면 자연재해 아닌가? ...
https://blog.railway.com/p/preliminary-report-october-security-incident