Fugu Ultra는 하나의 OpenAI 호환 엔드포인트로
여러 LLM을 조합하고 라우팅하는 오케스트레이션 레이어입니다.
사용자가 프롬프트를 보내면
Fugu가 혼자 답할지,
다른 모델에 하위 작업을 넘길지,
여러 출력을 합쳐 최종 답변을 만들지 결정합니다.
Fugu 자체도 LLM입니다.
Sakana 설명에 따르면 Fugu는
에이전트 풀 안의 여러 LLM을 호출하도록 훈련된 코디네이터 모델이며,
필요하면 재귀적으로 자기 자신도 호출할 수 있습니다.
즉 Fugu는 하나의 모델이라기보다
여러 모델을 하나의 팀처럼 굴리는 지휘자에 가깝습니다.
벤치마크상 대부분 영역에서
Fable, Mythos와 비슷한 성능을 보였다고 합니다.
구지 따로 api 돈 주고 쓸 필요는 없어 보이고...오케스트레이션 잘 돌리면 fable급은 충분히 가능하다는데 의미가 있는듯