이 비용이 어떻게 발생하는지 수학으로 풀어보자.
2024년 와세다 대학교 연구는 영어, 중국어, 일본어에서 공손함 수준에 따른 LLM 응답을 테스트했다. 불손한 프롬프트는 더 나쁜 결과를 냈다. 더 많은 편향, 더 많은 오류, 더 많은 거부를 보였다. 적당한 공손함이 양쪽 극단을 일관되게 앞질렀다.
메커니즘을 보면 이해가 된다. 공손한 프롬프트는 더 높은 품질의 훈련 데이터와 패턴이 매칭된다. "이 분석을 구조화하는 데 도움을 주실 수 있나요?"라고 쓰면, 모델은 전문적이고 논리적인 텍스트에서 끌어온다. "답 줘"라고 쓰면, 레딧에서 끌어온다.
Google DeepMind의 머레이 섀너핸은 이 현상을 간단하게 설명했다. 모델은 똑똑한 인턴이라는 역할극을 하고 있다. 인턴을 동료처럼 대하면 동료 수준의 결과물을 얻는다. 명령을 퍼부으면 최소한의 순응만 얻는다.
이제 비용 측면을 보자. OpenAI는 하루에 10억 건 이상의 쿼리를 처리한다. GPT-4 쿼리 하나는 약 2.9와트시를 사용한다. 구글 검색의 열 배다. 하지만 OpenAI는 방금 3,000억 달러 밸류에이션으로 400억 달러를 조달했다. 공손함 토큰에 드는 수천만 달러는 반올림 오차의 반올림 오차다.
그럼에도 불구하고 67%의 유저가 어쨌든 그렇게 하고, 그 중 55%는 "고마움을 표현하는 것이 옳은 일이기 때문"이라고 말한다. 그들은 자신의 삶 속 모든 다른 상호작용을 지배하는 행동 습관을 유지하고 있는 것이다. 아이에게 알렉사에게 "부탁합니다"라고 말하라고 가르치는 부모는 알렉사를 위해 그러는 게 아니다. 무례하게 굴면 더 빠른 결과를 얻는다는 것을 배우는 사람으로 아이를 키우는 대안을 피하기 위해 그러는 것이다.
9억 명에게 OpenAI가 운영 비용의 0.01%를 절약할 수 있도록 '감사합니다'를 그만 말하라고 하는 것은 인터넷에서 가장 엔지니어적 뇌가 박힌 최적화 관점이다. 당신은 스스로를 모든 상호작용을 거래로 대하도록 훈련시키고 있는 것이다. 그리고 그 습관은 채팅 창 안에만 머물지 않는다.