1. 앤트로픽 핵심 연구진의 잇따른 공개 경고 및 사직
- 앤트로픽 소속 핵심 연구진 3인이 통제 불능 AI가 10년 내 인류를 파멸로 이끌 수 있다는 강력한 경고를 공개적으로 표명했다.
- AI 연구원 제이콥 콕슨은 경각심을 울리기 위해 사임하며 업계 종사자들이 실제로 멸종 위협을 진지하게 믿고 있다고 밝혔다.
- 경영진과 고위 연구원들이 언론 앞에서는 온건한 표현을 쓰지만 내부적으로는 극심한 공포를 공유하고 있다는 사실이 드러났다.
2. 초지능 정렬 실패 가능성과 파멸적 위험에 대한 정량적 추정
- 정렬 과학 책임자 에반 휴빙거는 향후 10년 내 인류 멸종 확률이 10%를 초과한다고 언급하며 초지능 정렬 해결 계획 부재를 지적했다.
- 확장 가능한 감독 책임자 사무엘 마크스는 조직 내 고위직일수록 수년 내 발생 가능한 실존적 위험에 대해 더 깊이 우려하고 있다고 증언했다.
- 앤트로픽뿐만 아니라 오픈AI 샘 올트먼 등 주요 빅테크 리더들 역시 기술이 통제 불능 단계로 진입하고 있음을 인정했다.
3. AI 빅테크의 개발 딜레마와 규제 환경 변화 압박
- 개발 속도를 늦춰 경쟁에서 뒤처질 위험과 속도를 유지해 통제력을 상실할 위험 사이에서 기업들의 개발 경쟁이 지속되고 있다.
- 일각에서는 기업 가치 제고 및 규제 장벽 구축을 위한 과장 마케팅이라는 비판을 제기하나 미공개 모델을 접하는 내부자들의 위기감은 실제적이다.
- 모델의 재귀적 자기 개선이 현실화되기 전 미국과 중국 등 주요국 정부 차원의 검토 및 규제 패러다임 전환 필요성이 급부상했다.
https://www.axios.com/2026/09/09/anthropic-insiders-warn-ai-could-kill-all-humans