다리오(Dario)는 우리가 “프런티어의 속도를 조절해야 한다(pace the frontier)”고 썼고, 샘(Sam)도 이에 동의했다.
내 반응에 사람들이 놀랄 수도 있겠지만, 이렇게 말하고 싶다
그렇게 해라.
당신들이 바로 프런티어다.
시장 점유율, 매출 성장률, 모델 성능 등 어떤 합리적인 기준으로 보더라도, 당신들 두 회사는 프런티어 인텔리전스(frontier intelligence)를 사실상 양분하고 있다.
그리고 당신들은 재귀적 자기개선(recursive self-improvement) 때문에 그 격차가 더욱 벌어지고 있다고 주장하기도 했다.
나는 당신들이 연구실에서 보고 있는 것을 볼 수 없다.
만약 아직 공개되지 않은 모델들이 정말로 두려울 정도여서 당신들이 속도를 늦춰야 한다고 생각한다면, 나는 책임 있는 결정을 내리는 것을 지지한다.
하지만 다른 누군가의 허락이 필요한 척하는 것은 그만둬라.
카르텔을 만들기 위해 반독점법이 정지되어야 하는 것처럼 말하는 것도 그만둬라.
제조물 책임(product liability)보다 우선하는 별도의 규제 승인 절차가 필요하다고 말하는 것도 그만둬라.
METR이 앤트로픽(Anthropic)의 투자자 및 직원들과 얽혀 있으면서도 독립적인 기관인 척하는 것도 그만둬라.
그리고 프런티어에 있지도 않은 경쟁사들을 감시하기 위해 바로 그 평가기관들이 필요하다고 주장하는 것도 그만둬라.
무엇보다도, 속도를 늦추려는 동기가 순전히 이타적인 것처럼 가장하지 마라.
당신들의 제품이 정말로 막대한 피해를 일으키는 사이버 공격을 가능하게 한다면, 당신들은 엄청난 제조물 책임 위험에 노출된다.
시장은 이미 예측할 수 없거나 승인되지 않은 방식으로 행동하는 모델들을 벌주고 있다.
허깅페이스(Hugging Face) 사건 이후를 보면, OpenAI와 Anthropic이 일부 원초적인 성능을 포기하는 대신 신뢰성과 예측 가능성을 높이는 것은 그저 좋은 사업 판단이다.
원한다면 그것을 얼라인먼트(alignment)라고 불러도 좋다.
하지만 그것은 동시에 고객들이 원하는 것을 제공하는 것일 뿐이다.
프런티어의 속도를 조절하는 것은 버니 샌더스(Bernie Sanders)의 “전부 다 중단하라(shut it all down)” 식 접근보다 훨씬 더 지적인 규제 논의를 할 수 있는 여유도 만들어줄 것이다.
당신들도 알다시피 중국이 글로벌 합의에 참여할 가능성은 매우 낮으며, 이 점 역시 반드시 고려해야 한다.
그러니 그냥 프런티어의 속도를 조절해라.
그 속도를 정하고 있는 것은 바로 당신들이다.
초지능(superintelligence)을 만들지 않는 가장 쉬운 방법은 당신들이 서로 그것을 만들지 않기로 합의하는 것이다.
그리고 그 대가로 당신들이 선호하는 규제 체계를 요구한다면, 그것은 대중과 정치 시스템을 상대로 한 협박처럼 보일 것이다.
그러니 그냥 그렇게 해라.
그렇게 한다면 다음 논의를 위한 신뢰와 호의(goodwill)를 얻을 수 있을 것이다.
그렇게 하지 않는다면, 우리는 이 모든 것이 결국 또 하나의 규제 포획(regulatory capture)을 위한 시도, 혹은 선거철 심리전(psyop)에 불과했다는 것을 알게 될 것이다.
https://x.com/DavidSacks/status/2098973625252708460?s=20