= 최근 Anthropic·OpenAI 등 미국 AI 업계에서 AI 통제 상실 위험과 개발 속도조절 논의가 본격화
= 중국도 수년 전부터 같은 위험을 공식적으로 경고.
● 2024년부터 AI 안전 프레임워크에 ‘통제 상실’ 위험을 명시
● 2025년 AI의 자기복제·외부 자원 확보 가능성 등을 구체화.
● 올해 5월 AI 에이전트 규칙에서는 이상 행동에 대한 개입·차단 기능과 인간의 최종 결정권을 요구.
= 시진핑 주석도 지난 7월 “AI는 항상 인간의 통제 아래 있어야 한다”고 강조.
= AI 안전 문제는 이달 예정된 미중 간 논의에서도 주요 의제가 될 전망.
출처: Reuters