ㄷㄷㄷㄷ Fable 5의 내부 추론이 유출됐다는 레딧 유저 원문

Fable 5 테스트하려고 매우 어려운 문제를 풀게 했는데 일반적인 답변 대신 모델의 내부 추론 과정이 화면에 노출되는 현상이 발생했다고 하네용

그런데 신기한 건 혼잣말이 사람이 읽기 쉬운 문장이 아니라 다음과 같은 형태라고 ㄷㄷ

• "DATA DATA DATA. GO." "GRRR", "GAAAH" (막히거나 어려운 상황)
• "PHEW" (실마리를 찾았을 때)

전체적으로는 문장이 아니라 매우 압축된 메모나 원시적인 약어처럼 보였으며 사람이 이해하기 위한 언어가 아니라 토큰 효율을 높인 내부 표현처럼 보였다네용

• 우리가 평소 보는 답변은 사용자에게 보여주기 위해 다듬어진 최종 결과
• 내부에서는 훨씬 더 압축적이고 효율적인 방식으로 추론이 이루어지고 있을 수 있음

• 일부에서는 이를 AI가 스스로 만든 <사적인 언어>라고 해석하고 있지만 실제로는 효율적으로 정해진 내부 방식일 가능성이 더 크다고 😨

지브리프사나 그리는 ai는 행복한걸지도,, 고통은 못 느끼겠지만 이런 거 보면 인간인 내가 나은 것 같기도..