프런티어 AI 책임에 관한 공동 약속
미국 국민과 전 세계를 위한 긍정적인 미래를 만들기 위해, 우리는 모든 기업이 자사의 기술을 안전하게 개발하고 고객과 대중의 신뢰를 구축할 수 있는 방식으로 개발할 책임이 있다고 믿습니다.
이를 위해서는 프런티어 모델을 훈련하고 배포하는 모든 기업이 강력한 내부 절차와 통제 시스템을 갖춰야 합니다.
기술이 의도한 대로 작동하는지 확인하고, 문제가 발생할 경우 신속하게 발견하고 해결할 수 있어야 합니다.
따라서 다른 안전조치와 더불어 각 기업은 다음과 같은 4단계 통제 및 감사 체계를 구축해야 한다고 생각합니다.
1. 강력한 내부 통제 시스템 구축
모델의 훈련 및 배포 과정에서 사이버보안, 생물보안, 화학적 위협 등의 영역과 관련해 모델의 능력과 정렬(alignment) 상태를 지속적으로 모니터링해야 합니다.
또한 모델이 의도하지 않은 방식으로 해킹을 수행하거나 기술 시스템에 접근하지 못하도록 해야 합니다.
2. 독립적인 내부 감독팀 운영
각종 통제·모니터링·탐지 시스템이 의도한 대로 제대로 작동하는지 확인할 수 있도록 내부 팀에 충분한 권한을 부여해야 합니다.
문제가 발견될 경우 이를 시정하도록 해야 합니다.
3. 독립적인 외부 감사·평가 실시
독립적인 외부 감사기관 또는 평가기관과 협력해, 회사의 통제·모니터링·탐지 시스템이 실제로 의도한 대로 작동하는지 독립적으로 평가받아야 합니다.
4. 이사회 내 독립위원회 설치
이사회에 독립적인 위원회를 지정해 통제 시스템을 운영하는 팀과 내부·외부 감사인 및 평가기관을 감독하고 보고를 받아야 합니다.
또한 발견된 문제가 실제로 해결되었는지 확인해야 합니다.
이러한 조치들은 각 기업과 고객, 그리고 대중에게 해당 기술이 의도된 방식대로 작동하고 있다는 신뢰를 제공할 것입니다.
참여 기업들은 정기적으로 만나 자사 시스템의 안전성을 향상시키기 위한 표준과 모범 사례(best practices)를 마련할 것입니다.
시간이 지나면서 이러한 조치들을 법률이나 규제에 명문화하는 것이 적절할 수도 있습니다. 기업들에 이러한 조치가 법적으로 의무화되는지 여부와 관계없이, 우리는 이 같은 통제와 감사 체계를 구축하는 것이 모두를 위한 안전한 미래를 보장하는 데 핵심적이라고 믿습니다.
그리고 우리 각 기업은 이를 실행할 것을 약속합니다.