미국 프론티어 모델들의 추론과정(reasoning trace) 은 증류를 막기 위해 암호화된 채로 클라이언트에 전달되고, 모델 제공자가 해당 내용을 다음 턴에 되먹일 때만 복호화된 의미를 알 수 있음.

그런데 이게 같은 제공자의 약한 모델(Fable -> Haiku) 에 먹여도 복호화가 되기 때문에, Fable 에서 추론한 대화내역을 Haiku에 먹이고 Haiku를 탈옥시켜서 추론내역을 응답으로 되뱉으라고 시키는 식으로 추론과정을 뽑아내는데에 성공함

Kimi K3 등의 대약진도 어쩌면..?

https://stolen-thoughts.com/