삼성 이영진
핵심
구글, 오픈AI, 앤스로픽이 정부 감독 없이 프런티어 AI 안전 표준을 마련하는 자율규제 기구 SAFA 설립을 추진 중이며 2026년 말~2027년 초 출범이 목표다. 당초 연방정부와의 민관 협력을 구상했으나 트럼프 행정부에서 논의가 정체되자 업계 주도 독립 기구로 방향을 틀었다
주요 내용
• SAFA는 모델 배포 전 제3자 안전성 평가, 사고 보고 기준, 자발적 안전 서약 구체화, 감사기관 자격 기준 마련 등을 담당할 계획
• CAISI의 평가 역량 부족을 이유로 SAFA가 직접 프런티어 모델을 테스트하는 방안도 논의 중
• CEO 후보로 스리람 크리슈난·아라티 프라바카르, 의장 후보로 콘돌리자 라이스·데이비드 프리드버그가 거론
• 2023년 설립된 Frontier Model Forum과 역할이 겹치나, SAFA는 실질적 표준·감독·평가 기능을 갖추는 것이 목표
• 메타 등 오픈소스 진영은 선도 3사가 기준을 만들 경우 경쟁사 진입장벽이 될 수 있다고 우려
시장 포인트
선도 3사가 주도하는 안전 표준이 사실상 업계 기준으로 자리잡을 경우, 제3자 안전성 평가·감사·사고보고 체계에 대한 수요가 새로운 산업으로 성장할 가능성. 동시에 감사기관 자격 요건과 프런티어 모델 기준이 후발주자·오픈소스 진영에는 진입장벽으로 작용해 AI 경쟁 구도와 향후 정부 규제 방향에도 영향을 줄 수 있어 기준 설계 과정이 주목됨
관련 산업
인공지능 · AI 규제
관련 기업
구글 · 오픈AI · 앤스로픽 · 마이크로소프트 · 메타
#SAFA
#AI안전
#자율규제
#프런티어AI
#AI거버넌스