AI의 브레이크를 누가 잡을 것인가
🔎 핵심만 콕콕
- 트럼프는 AI 위험 관리 권한을 전문가 집단이나 독립기관보다 대통령과 국가에 두려는 입장을 보였다.
- 젠슨 황은 국가가 산업 전체의 속도를 정하기보다 각 기업이 위험에 따라 자율적으로 속도를 조절해야 한다고 본다.
- 다리오 아모데이는 기업 자체 안전 보고서만으로는 부족하므로 제3자 평가자가 내부 시스템과 안전 절차를 검증해야 한다고 주장했다.
AI 규제 논쟁의 핵심은 기술 발전 속도가 아니라 위험을 정의하고 ‘멈춤’ 권한을 누가 갖는지에 있다.
| 항목 | 값 | 비고 |
|---|---|---|
| 트럼프·젠슨 황 행사 | 9월 14일 | 로스앤젤레스 행사에서 AI 위험론을 “사기극”으로 규정 |
| 캘리포니아 SB 1047 | 개발비 1억 달러 초과 모델 | 대형 AI 모델 중심의 안전 의무 부과 추진 |
| 외부 평가자 제안 | 기업 내부 상주 | 모델 개발·안전 절차 접근 및 불리한 결과 공개 권한 요구 |
| AI 위험 평가 기준 | 사이버 공격·생물학적 위해·샌드박스 탈출 | 기업 규모나 학습비보다 실제 위험 능력에 초점 |
| 규제 판단 기준 | 3가지 | 위험 정의 주체, 평가기관 인증 주체, 신규 기업의 통과 가능성 |
- 트럼프는 AI 위험 관리 권한을 전문가 집단이나 독립기관보다 대통령과 국가에 두려는 입장을 보였다.
- 젠슨 황은 국가가 산업 전체의 속도를 정하기보다 각 기업이 위험에 따라 자율적으로 속도를 조절해야 한다고 본다.
- 다리오 아모데이는 기업 자체 안전 보고서만으로는 부족하므로 제3자 평가자가 내부 시스템과 안전 절차를 검증해야 한다고 주장했다.
- 학습 연산량과 개발비는 위험을 알리는 참고 지표일 수 있지만, 알고리즘 개선·다중 에이전트·증류·오픈웨이트 모델 때문에 위험의 최종 기준이 될 수 없다.
- 외부 평가기관이 등록·평가 기준·비용·결과 공개를 독점하면 독립 평가가 기존 선두 기업을 보호하는 진입장벽으로 바뀔 수 있다.
시사점: AI 규제의 안전성은 규제 강도보다 위험 기준과 평가 권한의 개방성에 달려 있으며, 신규 기업도 동일한 안전성을 입증해 진입할 수 있어야 카르텔화를 피할 수 있다.