점점 더 강력한 AI를 개발하는 미국 기업들이 책임감 있게 행동할 것이라는 확신을 전 세계가 가질 수 있어야 합니다. 특히 최근에는 발전의 궤적이 더욱 가팔라지고 있기 때문에 더욱 그렇습니다. 모든 최전선 AI 연구소(frontier lab)는 이를 반드시 실현해야 하며, 우리가 그렇게 할 수 없다면 그 누구도 이 일을 하러 출근할 이유가 없습니다.
우리는 최전선 AI에 대해 일관된 안전 요건을 설정하는 연방 차원의 규제 프레임워크를 환영합니다. 그러나 이러한 신뢰를 제공하기 위한 작업을 시작하기 위해 반독점법 적용 면제나 새로운 법률이 마련될 때까지 기다릴 필요는 없다고 생각합니다. 최전선 AI의 위험을 관리하면서 그 혜택을 최대화할 수 있도록 일관된 규칙을 마련하는 것은 좋은 생각입니다. 그리고 우리는 독립적인 감사기관(independent auditors) 같은 아이디어에도 기대를 갖고 있습니다.
몇 년 전 우리와 같은 기업들은 ‘책임 있는 스케일링 정책(Responsible Scaling Policies)’이나 ‘대비 프레임워크(Preparedness Frameworks)’ 같은 것들을 개발했습니다. 당시로서는 좋은 접근이었지만, 그것들은 주로 완성된 모델을 배포하는 단계에 초점을 맞췄으며, 모델이 개발되는 과정에서 어떤 일이 일어나는지에는 초점이 맞춰져 있지 않았습니다.
오늘날에는 안전한 개발과 평가에 초점을 맞추는 방향으로 변화하고 있으며, 이를 위해서는 새로운 도구가 필요합니다. 예를 들어 OpenAI에서는 이제 모델 출시 전에 오랫동안 해왔던 안전성 작업에 더해, 능력을 상당히 향상시킬 것으로 예상되는 최전선 강화학습(frontier reinforcement learning) 실행을 시작하기 전에 명시적인 ‘안전성 논증(safety cases)’을 사전에 수립하고 있습니다.
우리는 다른 기업들이 우리의 접근법에서 배우고 각자의 접근법을 제안하기를 바랍니다. 정렬 실패(misalignment), 모니터링, 안전에 대해 업계가 공유하는 기준을 마련하는 것이 더 나은 결과로 이어질 것이라고 생각합니다. 우리는 업계의 동료들과 협력해 이러한 기준의 가장 좋은 형태를 만들어가기를 기대합니다.
우리가 ‘속도 조절(pacing)’에 대해 말할 때, 그것은 ‘중단(stopping)’을 의미하는 것이 아닙니다. 발전은 매우 빨랐고 앞으로도 계속될 것입니다. 하지만 아무런 개입이 없었을 때 가능한 속도보다는 더 느려야 합니다. 안전성 논증과 모니터링 같은 개입에는 상당한 비용이 들기 때문입니다.
그러나 이러한 속도 조절은 그 비용을 감수할 만한 충분한 가치가 있습니다. 미국이 경쟁에서 받고 있는 압박이 아무리 크더라도 무모한 행동을 정당화해서는 안 되며, AI의 능력이 정렬(alignment)과 모니터링 역량보다 앞서 나가도록 내버려두어서도 안 됩니다.
우리가 정부의 도움이 필요하게 될 부분은 국제적인 공조입니다. 하지만 그에 앞서, 우선 우리가 스스로 할 수 있는 일을 해야 합니다.
https://x.com/sama/status/2099348812305473766?s=20