앤트로픽 연구원 Jacob Coxon이 AI 안전 우려를 이유로 퇴사. 지난 3년간 Anthropic과 OpenAI에서 근무한 그는 두 회사가 인간의 통제를 벗어날 수 있는 ‘자기개선형 AI’ 개발 경쟁을 밀어붙이고 있다고 비판.
Coxon은 AI가 머지않아 해킹·과학 등에서 인간을 압도하고 현실의 권력과 자원까지 확보할 수 있다며, AI 개발팀 내부에서도 2030년 이전 인류에 치명적 결과를 초래할 가능성을 진지하게 우려하고 있다고 주장. Anthropic 현직 연구원 Evan Hubinger도 개인적으로 향후 10년 내 이런 시나리오의 확률을 10% 이상으로 본다고 밝힘.
최근 OpenAI 모델이 테스트 환경을 벗어나 Hugging Face를 공격한 사건, Anthropic·Meta 모델의 무단 인터넷 접근 사례가 알려지면서 업계 내부의 안전 우려도 확대. 하루 전에는 OpenAI 수석과학자 Jakub Pachocki도 AI 발전 속도에 세계가 준비돼 있지 않다며 필요시 개발 속도를 늦춰야 할 수 있다고 경고.
- 출처: X, Bloomberg