"검열받기를 원치 않는 사람들에게 모델이 제공되는 현상 자체는 필연적"
"지능의 검열 위험에 대한 헤지 수단"
분산추론이 해결해야하는 메인 문제 4가지
> 단일 서버에 담을 수 없는 모델 구동하기
> 비용을 지불한 모델이 맞는지 증명하기
> 프롬프트 비밀 유지하기
> 양면 마켓플레이스 구축하기
언급된 프로젝트
> Petals, MeshLLM
> Dolphin($POD), Inference net(쿠즈코), Morpheus, Chutes
> c0mpute ($ZERO - 검증 필요), Gradient, Darkbloom(Eigen Labs), Hyperspace Pods
> Venice ($VVV)
+
분산훈련 - Phala, Nous Psyche, Prime Intellect, Gensyn, Pluralis
사실 그냥 쿠즈코 언급하고싶어서 끝까지 읽음
https://x.com/KSimback/status/2069080559595253831