Gradient는 탈중앙화 AI 를 위한 Open Intelligence 인프라를 구축하는 프로젝트
Open Intelligence Stack 이라는 Distributed Training / Serving / 에이전트 시스템을 개발하는데,
오늘 Parallax? 라는거 써봤는데, 좀 ㄱㅊ아보임
Gradient 정보
- 백커 : 판테라(리드),멀티코인캐피탈(리드), Hongshan(전,세콰이어)로부터 10M 시드투자 유치
- 팀
1) CEO : 버클리 컴공 ,NYU 석사 출신 , 세콰이어 출신
2) 코파운더 : 컬럼비아 출신, 헬륨 리드출신
3) 그외 : 구글/애플/MS 등 빅테크 AI 연구진으로 구성
- 전반적으로 AI 리서쳐 위주의 팀이고 프로덕트마다 모두 연구 논문쓰는거 봐선 딥테크 좋아하는듯
- 최근 솔라나 x402 해커톤도 주최함
Gradient 의 OIS란
- Open Intelligence Stack 이라는 AI 올인원 인프라
- 크게 4개로 구성되어 있음
1) Parallax : Distributed Inference & Serving
- LLM을 다양한 스펙의 머신으로 분산하여 실행함
- P2P 구조로 분산해 모델을 서빙하는 방식
- 프리버전을 써볼 수 있는데, 실시간 노드 매칭치고는 진짜 개빠름
- 꽤 프로덕트가 좋아서 그런지 Product Hunt 에서도 랭킹 1등 찍음
2) Echo : Distributed RL
3) Lattica : Peer to Peer 프로토콜
4) Gradient Cloud : 상용화 인프라
다른거보다 한번 parallax 한번 써보시면 이 프로젝트 느낌이 빡하고옴.
https://chat.gradient.network/
이거 들어가서 아무질문이나 해보면 Gradient가 뭐하는 친구들인지 바로 알게됨
진짜 실시간으로 워커 매칭 <> 추론까지 은근 속도가 빠름..
AI 모델자체도 오픈소스 모델을 쓰기때문에, 성능도 크게 뒤쳐지지 않는거 같음
드는 생각은 뭔가 Memory 부분이나, 가능할진 모르겠는데 웹서치기능? 이런게 추가되면 훨씬 좋아질거 같긴하네