Google DeepMind CEO이자 노벨화학상 수상자인 데미스 허사비스가 X를 통해 미국 주도의 ‘프론티어 AI 표준기구’ 설립 제안.
미국의 Anthropic 최첨단 모델 수출 제한과 중국 DeepSeek·Z.ai의 기술력 향상으로 AI 안보 경쟁이 심화되는 가운데 나온 제안.
핵심은 기업의 자율적인 안전 권고를 넘어, 프론티어 모델에 출시 전 사전심사 체계를 적용하고 향후 미국 시장 배포 요건으로 제도화하자는 구상.
허사비스가 제시한 주요 방안
- 미국 금융산업규제기구(FINRA)와 유사한 민관 합동 표준기구 설립
- 일정 기준을 넘는 모델을 ‘프론티어 모델’로 지정하고, 오픈·폐쇄형 여부와 개발 국가에 관계없이 동일 기준 적용
- 프론티어 모델을 출시 최대 30일 전에 제출해 사이버보안, 생물학적 위협, 안전장치 우회 등 고위험 능력 사전 평가
- 연방기관 및 미국 국립연구소와 협력해 국가안보 관련 위험 검증
- 모델의 성능·안전성을 담은 기술문서 공개, 내부 사이버보안 강화, 핵심 인력 검증, 안전·보안 연구 투자 확대
- 평가 기준을 정기적으로 갱신하고, 포화되거나 실효성이 떨어진 벤치마크는 폐기·교체
- 초기에는 자율 참여로 시작하되, 평가 체계가 검증되면 미국 시장 배포를 위한 의무 절차로 전환
- 출시 이후 중대한 취약점 발견 시 표준기구와 공동 대응
- 위험이 심각하다고 판단될 경우 프론티어 AI 기업들의 개발 속도를 공동으로 늦추는 방안도 조율
허사비스는 프론티어 모델이 이미 사이버보안 위험을 높이고 있으며, 성능 발전에 따라 핵·생물학적 위협도 나타날 수 있다고 경고. AGI는 불과 몇 년 안에 등장할 수 있고, AI의 영향은 산업혁명보다 10배 크고 10배 빠를 수 있다는 전망.
- 출처: @demishassabis