CNBC) 마이크로소프트 나델라 "AI에는 인간이 통제하는 '비상 브레이크'가 필요하다"

사티아 나델라 마이크로소프트 회장 겸 CEO는 토요일 X에 올린 게시물에서, 첨단 AI 시스템은 격리 장치와 독립적인 통제 수단, 그리고 권한을 가진 사람이 작업 도중 모델을 일시 중지하거나 종료할 수 있는 '비상 브레이크'를 갖추고 구축되어야 한다고 촉구했습니다. 그는 비결정적 모델을 강력하고 결정론적인 시스템 설계와 인간의 통제, 신뢰할 수 있는 운영 절차로 둘러싸야 하며 기존 기준이 불충분한 영역에서는 업계 표준을 마련해야 한다고 강조하고, 최첨단 폐쇄형 모델과 오픈 웨이트 모델을 내부자 위험처럼 취급하는 것이 그러한 시스템을 구축하는 방법이라고 밝혔습니다. 또한 AI 시스템은 모델 다양성, 사람이 읽을 수 있는 모델 행동 기록, 지속적인 시스템 테스트, 독립적 통제 및 감사 가능성, 격리, 사고 공개 등 '관찰 가능성 원칙'을 중심으로 설계되어야 한다며, 가장 신뢰할 수 있는 초지능 시스템은 가장 신뢰하는 모델을 가진 시스템이 아니라 모델을 가장 적게 신뢰할 수 있게 해주는 시스템이 될 것이라고 말했습니다. 나델라의 이번 발언은 빌 게이츠, 다리오 아모데이, 샘 올트먼, 일론 머스크 등 업계 주요 인사들이 AI 안전 프로토콜의 미흡함과 기술의 지나치게 빠른 발전 속도를 경고하는 가운데 나왔으며, 지난달에는 앤트로픽을 떠난 한 연구원이 앤트로픽과 OpenAI가 인류의 생명을 걸고 도박을 하고 있다고 비판했고, 같은 날 앤트로픽의 한 얼라인먼트 책임자는 향후 10년 내 AI가 인류를 멸종시킬 확률이 10%를 넘는다고 언급했습니다. 반면 트럼프 대통령은 AI로 인한 인류 멸종 위험을 거듭 일축하며 중국에 앞서는 것이 중요하다고 강조해 왔고, 최근에는 제이 클레이튼 국가정보장이 이끄는 'AI 포스'를 신설해 업계를 지원하고 악의적 행위자를 색출하도록 했습니다.
https://www.cnbc.com/2026/10/10/microsoft-satya-nadella-ai-emergency-brake-safety.html