WIRED 보도에 따르면 Anthropic은 최신 Claude Fable 5 모델의 안전장치 중 일부를 사용자에게 보이지 않게 작동시키려 했습니다. 특히 사용자가 Claude의 출력물을 활용해 경쟁 AI 모델을 학습시키거나, 모델 증류·스크래핑·프런티어 AI 개발을 시도한다고 판단되면, Anthropic이 이를 사용자에게 알리지 않고 성능 저하나 모델 우회로 처리하려 했다는 점이 논란이 됐습니다.
핵심은 “안전장치” 자체보다 사용자에게 알리지 않고 성능을 저하시킨다는 점입니다. AI 연구자들은 이를 사실상 경쟁 AI 개발을 방해하는 “secret sabotage”로 받아들였고, 오픈소스 AI 연구·모델 평가·안전성 연구까지 위축될 수 있다고 비판했습니다.
Anthropic은 반발 이후 정책을 수정하겠다고 밝혔습니다. 앞으로는 이런 안전장치가 작동할 경우 사용자에게 요청 거절 또는 저성능 모델로의 우회가 표시되도록 바꾸겠다는 입장입니다.
이 이슈가 중요한 이유는 단순한 약관 문제가 아니라, AI 모델 제공사가 경쟁 연구를 어디까지 제한할 수 있는지, 그리고 그 제한을 투명하게 공개해야 하는지에 대한 선례가 될 수 있기 때문입니다. Claude가 개발자와 연구자들 사이에서 핵심 도구로 쓰이는 만큼, “AI 안전”과 “시장 지배력 방어”의 경계가 더 민감한 쟁점이 되고 있습니다.