어느 순간부터 ChatGPT가 답변에서“goblin”, “gremlin” 같은 단어를 유난히 자주 쓰기 시작했다고 합니다.
원인은 “Nerdy”라는 말투 설정이었습니다.약간 똑똑하고 장난기 있는 괴짜 스타일인데, 이 말투를 학습시키는 과정에서 고블린 같은 비유가 들어간 답변이 더 좋은 평가를 받은 것입니다.
그래서 모델은 은근히 이렇게 배운 셈입니다.
“재밌게 말하려면 고블린을 넣으면 되는구나?”
문제는 이 말버릇이 다른 답변에도 조금씩 퍼졌다는 점입니다.
결국 OpenAI는 해당 말투 설정을 정리하고, 고블린 표현이 과하게 나오지 않도록 학습 과정을 수정했다고 합니다.
참고로 OpenAI는 이미 학습이 끝난 모델에서는 바로 고치기 어려워서, Codex에는 “고블린 표현을 너무 쓰지 말라”는 추가 지시문까지 넣었다고 합니다.
아래처럼 프롬프트에서 제거해주면 다시 고블린들이 튀어나온다고 하네요
instructions=$(mktemp /tmp/gpt-5.5-instructions.XXXXXX) && \
jq -r '.models[] | select(.slug=="gpt-5.5") | .base_instructions' \
~/.codex/models_cache.json | \
grep -vi 'goblins' > "$instructions" && \
codex -m gpt-5.5 -c "model_instructions_file=\"$instructions\""
https://openai.com/index/where-the-goblins-came-from/