- 해외 연구소들이 Claude를 증류하기 위해 수십만 개의 사기 계정을 생성하고 있으며, 이러한 모방자들은 아무런 안전장치가 없다.
"우리는 무단 증류 사례를 목격하고 있으며, 이는 여러 이유로 정말 나쁘다고 생각합니다. 첫 번째 이유는 그들이 허가 없이 실제로 우리 모델에 접근한다는 점입니다."
"그리고 내가 사기적인 수단이라고 말할 때, 그 의미는 수만 개, 아니 수십만 개의 사기 계정을 생성하는 것을 말합니다. 보통 도난된 신용카드나 도난된 자격 증명을 사용하거나, 때로는 도난된 Anthropic 계정을 이용해 우리 모델에 접근하여 대규모로 출력을 생성하고, 그 응답들을 훈련 데이터로 활용할 수 있게 하는 것입니다."
"그래서 그들은 그렇지 않았다면 얻을 수 없었을 더 강력한 모델을 얻게 됩니다. 그리고 지금까지 우리가 본 것은 Claude로부터 증류된 모델들이 안전장치가 없다는 점입니다."
https://x.com/firesidealpha/status/2099166005608304803