지능의 시대에, 기업은 핵심 IP를 어떻게 보호해야 하는가?
노벨 경제학상 수상자 케네스 애로우는 정보 시장의 유명한 역설을 이렇게 설명했다. "정보의 가치는 구매자가 그 정보를 얻기 전까지는 알 수 없지만, 알게 되는 순간 사실상 공짜로 획득한 것이 된다." 애로우의 '정보 역설'에서는 판매자가 정보를 팔기 위해 그 지식을 거저 내줄 위험을 감수한다.
AI는 정반대의 문제를 만든다. AI 시대에는 구매자가 자신이 산 것을 사용하기 위해 지식을 내줄 위험을 감수한다.
본질적으로 지능에 두 번 대가를 지불하는 것이다. 한 번은 돈으로, 또 한 번은 그보다 훨씬 더 가치 있는 것으로. 그 지능을 유용하게 만들기 위해 공개해야 하는 독점적 지식 말이다. 모델이 더 잘 작동하기를 원할수록, 더 많은 지식을 먹여야 한다!
시간이 지날수록 정보 비대칭은 점점 더 기울어진다. 판매자는 당신이 구매한 것을 사용할수록 당신에 대해 점점 더 많이 알게 되지만, 당신은 판매자가 그 대가로 무엇을 배우고 있는지 거의 알지 못한다.
이것이 내가 말하는 '역 정보 역설'이다.
특허는 애로우 역설의 한 측면을 해결한다. 발명가가 아이디어를 그냥 내주지 않고도 공개할 수 있게 해준다. 역 정보 역설에도 그에 상응하는 장치가 필요하다.
이것은 단순한 데이터 보호 이상을 요구한다. 모델은 '배기가스(exhaust)'에서 학습한다. 사람들이 작성하는 프롬프트, 에이전트가 사용하는 도구, 그리고 특히 모델이 틀렸을 때 사람들이 하는 수정 작업들.
모든 수정은 조직의 노하우로 정제된다. 경쟁자가 결코 돈으로 살 수 없는 종류의 지식이면서, 거의 감지할 수 없게 새어 나가는 종류의 지식이다. 트레이스 하나하나, 수정 하나하나, 평가 하나하나를 통해.
지능을 소비하는 과정에서, 당신은 지능을 창조하고 있다. 그리고 당신이 창조한 것은 당신의 것이어야 한다. 이것은 하이에크가 말한 의미에서의 '당신만의 특수한 지능'이다.
다른 누구도 가질 수 없는 시간, 장소, 상황에 대한 지식. 그것은 당신이 무엇을 생각하고, 무엇을 중시하며, 성공을 어떻게 측정하는지 알고 있다.
모델 제공자들이 공공 데이터로 모델을 훈련할 수 있는 공정 이용 권리에서 위대한 혁신이 나오는 것은 필요한 일이지만, 정작 그들이 뒤돌아서서는 증류에 제한적인 약관을 부과하고, 고객의 사용 및 상호작용 데이터로부터 학습할 권리를 유보하는 현 상황은 아이러니하다. 학습이 한 방향으로만 흐른다면, 경제적 가치는 지식의 창조자가 아니라 학습 인프라의 소유자에게 수렴한다. 따라서 모든 기업이 자신의 학습 루프를 통제할 수 있도록 학습 인프라를 분산시키는 것이 필수적이다.
알렉스 카프가 말했듯, "기술 고객들이 원하는 것은 자신의 컴퓨팅, 자신의 모델, 자신의 데이터 스택, 그리고 자신의 알파에 대한 통제권이다. 그들은 생산 수단을 자신이 소유하고 있으며, 그것이 다른 누군가에게 이전되지 않는다는 것을 확인하고 싶어 한다." 현재의 체제는 정확히 카프와 기업들이 두려워하는 그 이전을 수행하고 있다.
그래서 기업에게는 인적 자본과 토큰 자본이 복리로 쌓일 수 있는 진짜 신뢰 경계(trust boundary)가 필요하다. 조직의 데이터, 트레이스, 평가, 조정된 가중치, 메모리가 함께 축적되고 개선되는 곳. 그리고 동의 없이는 그 무엇도, 심지어 지능의 배기가스조차 넘어갈 수 없는 단단한 경계. 기업들은 모델 출력물을 자신의 모델을 파인튜닝하거나 훈련하는 데 사용할 권리를 요구하게 될 것이다. 나는 이것을 모든 기업이 자신의 기업 책임 의무에 맞게 모델을 정렬할 권리라고 생각한다.
클라우드 시대에 기업은 데이터를 축적했다. AI 시대에 기업은 학습을 축적한다. 신뢰 경계도 그에 맞게 진화해야 한다. 정보를 보호하는 것에서, 조직이 학습하고 적응하고 지능을 복리로 쌓아가는 메커니즘을 보호하는 것으로. 이를 위해 모든 기업이 해야 할 몇 가지가 있다.
-통제(Control): 자체적인 프라이빗 평가를 만들어라. 평가는 조직 내부에서'좋은 것'이 무엇인지를 정의하기 때문이다. 또한 조직의 메모리, 트레이스, 피드백, 의사결정, 조직적 맥락에 대한 소유권과, 자신의 작업과 쿼리에서 나온 모델 출력물을 사용할 수 있는 권리를 유지하라.
-역량(Capability): 테넌트 경계 안에 모델을 훈련하거나 튜닝할 수 있는 자체 학습 환경을 구축하라. 회사의 지식을 노출하지 않으면서 모델이 실제 워크플로를 상대로 학습하는 환경이다.
-선택권(Choice): 오케스트레이션 계층이 특정 모델 하나에 종속되지 않도록 하라. 스스로에게 물어보라. 지금 사용 중인 모델 하나가 사라져도, 다른 모델들로 평가 기준에 맞춰 운영하고 최적화할 능력이 남아 있는가? 특정 '제너럴리스트' 모델이 사라져도 회사의 '베테랑' 역량은 당신에게 남아 있는가?
-비용(Cost): 오케스트레이션 계층을 분리하면, 품질을 희생하지 않으면서 컨텍스트, 모델, 작업을 가장 효율적이고 비용 효과적인 방식으로 결합할 수 있다.
-복리(Compound): 이 네 가지를 하나로 모으면 자신만의 지속적 학습 루프(즉, 언덕을 오르는 기계)가 만들어지고, AI 투자가 회사의 가치를 복리로 불려줄 것이다.
다시 말해, 기업은 자신을 고유하게 만드는 지식을 내주지 않고도 모델을 사용할 수 있어야 한다. 그것이 우리가 직면해야 할 역 정보 역설이다.
출처