우리는 동의합니다. 오픈 웨이트 모델은 AI의 가장 큰 발전 단계 중 하나입니다. 이들은 개발자, 기업, 정부가 소수의 제공업체에 의존하지 않고 자체 인프라에서 프론티어 모델을 실행할 수 있게 합니다.
그러나 가장 큰 비판은 모델 웨이트가 공개되면 회수할 수 없다는 점입니다. 가드레일은 수정될 수 있고, 사용량은 모니터링할 수 없으며, 악의적 행위자들은 정당한 조직과 동일한 규칙을 따르지 않습니다.
남아 있는 가장 큰 격차 중 하나는 오픈 모델이 어떻게 구축되는지에 대한 검증 가능성입니다.
대부분의 AI 훈련은 여전히 비밀리에 이루어집니다. 조직들은 모델이 어떻게 훈련되었는지, 누가 기여했는지, 그리고 민감한 데이터가 책임 있게 처리되었는지에 대해 신뢰해야 합니다.
연합 학습은 데이터를 로컬에 유지하면서 모델이 협력적으로 학습함으로써 훈련이 일어나는 장소를 바꿉니다. 블록체인은 기여자 활동, 검증 결과, 보상 분배를 감사하고 검증 가능하게 함으로써 훈련이 어떻게 관리되는지를 바꿉니다.
오픈 웨이트는 AI를 접근 가능하게 합니다. 연합 학습은 프라이버시를 보존하게 합니다. 블록체인은 책임성을 부여합니다. 함께 이들은 사용에만 열려 있는 것이 아니라 구축 과정에서도 책임 있는 AI 스택을 만듭니다.
그렇게 우리는 FLock의 AI 스택을 다음과 함께 구축하고 있습니다:
- AI Arena는 협업 훈련을 조정하고 검증합니다.
- FL Alliance는 비공개 데이터를 활용하여 개인정보를 보호하면서 모델을 정교화할 수 있게 해줍니다.
- API Platform은 이렇게 개발된 모델을 실제 환경에서 사용할 수 있도록 제공합니다.
* Open weights : AI 모델의 가중치(학습 결과물)를 공개하여 외부 개발자나 기업이 자체 서버에서 모델을 직접 실행하고 수정할 수 있게 하는 공개 방식
https://x.com/flock_io/status/2081998847010845069