👍 Fogo 생태계 full 온체인 인퍼런스 프로젝트 : Baranos AI

Baranos AI는, 포고 생태계에서 AI Inference 솔루션을 개발하는 프로젝트임

☑️Baranos

• 일반적인 Inference 프로젝트는, GPU 연산은 다 오프체인에서 진행되고 정산/결제 정도만 블록체인에서 진행함
• Baranos 는 LLM의 가중치/활성화/토큰 생성 등의 전체 과정을 Fogo 온체인에서 진행함.

• 즉, GPU가 연산을 수행한게 아니라 블록체인에서 연산을 수행하는 프로젝트임
• 예전 BSC에서 나온 BEM과 비슷한 느낌..? 당연 두개는 컨셉이 아예다름

• Baranos AI 는 이런 100% 온체인 AI 추론 컴퓨팅을 연구하는 프로젝트

사실, 예전 초창기 DeAI 프로젝트들이 100% onchain 인퍼런스를 시도했었고, 대부분 레이어들의 노드들의 성능이 따라오지 못하기도하고, 여러 제약때문에 사실상 연산 = 오프체인 / 검증&정산 = 온체인 구조가 거의 고정? 되다싶이 했는데,

Fogo 는 SVM 기반으로 개발되었고,, 대부분 노드가 굉장히 고성능 컴퓨팅을 보유하고 있기 때문에 어느정도 가능한거 같기도하네요.
이에 대한 데모 버전은 요 트윗에서 볼수 있고 사이트는 아래 링크임

QWEN 3.5B 버전으로 테스트해볼 수 있음.
https://fogo-llm-demo.pages.dev/