보통 메인세션은 30분, 서브에이전트는 5분 각각 프롬프트 캐싱이 적용되는데요. 이 시간 안에 추가 요청이 없으면 캐싱된 내용이 없어서 이전 입력된 모든 토큰이 처음부터 다시 요청되는 것과 같은 비용을 내야합니다.
이것을 캐싱 유지를 위해서 더미 요청을 날려서 유지를 해주는 것 같습니다.
그래서 꽤 오래써도 토큰이 잘 안녹는 것을 볼 수 있어요.
그리고 서브에이전트도 남발하지 않아서 작업속도도 매우 빠르고요.
엥간해서는 제 하네스 깎아쓰려하는데 저는 이제 그만 깎으려합니다...