특히 단일 모델만을 사용하는 사람의 경우에 더 그렇고, 오케스트레이션을 통한 사람의 경우에는 그런 경향이 조금 덜하다(교차 검증을 하기 때문에)
어쨌든 llm은 기본적으로 발산하는 성질이 있기 때문에
본인이 생성한 것들에 대한 자아 비판과 회귀를 하는 경향보다는 자기강화를 하고 무한 재생성을 하려는 경향이 강하다
그러므로 아직 agi에 도달하지 못한 우리는 수렴하는 성질의 스코프를 정해주든, 에이전트를 넣어주든, 인간이 calibration 해줘야함
태스크, 하네싱에 따라 Entropy, 프랙탈 지수는 다르기 때문에 토큰 경제성을 위해 어느정도 수준의 비판과 교정을 넣어줄 지는 다르지만,
어쨌든 모델이 모든걸 해결해 주기 전까지 프롬프트에 나사 조여주고 양 몰고 앵커 박아주는 인간 테크니션이 필요하다
그리고 그 노력의 일부는 모델이 발전하면 할수록 의미가 없어진다