그렉 브록먼은 오픈AI가 아스트라를 자사 시스템에 적용해 취약점을 모두 찾아낼 때까지 사용했다고 말했습니다:
"우리는 생산 엔지니어의 25%를 데려와서 '미안하지만, 모든 프로젝트를 중단해. 이제 너희는 방어 쪽으로 전환이다. 우리의 보안 아키텍처를 업그레이드할 거야. 모델을 사용해서 모든 구멍을 찾아내라.'라고 했습니다. 그리고 우리는 여러 심각한 문제를 발견했고, 그것들을 수정했습니다."
"우리는 새로운 문제들을 발견했지만, 결국 포화 상태에 도달했습니다. 기본적으로 우리가 아는 한, 아스트라가 충분히 똑똑해서 찾을 수 있는 모든 P0, 즉 모든 치명적인 문제들을 찾아냈습니다. 물론 새로운 모델이 나오면, 새로운 라운드가 시작될 겁니다."
"새로운 사이버 능력의 드롭이 떨어질 때마다 이 타이트한 루프 안에 들어가야 합니다. 그것을 자사 시스템에 배포하고, 새로운 구멍을 찾고, 이상적으로는 이것을 자동화해야 합니다. 우리가 방어 팩토리라고 부르는 거죠. 그게 바로 우리가 내부적으로 구축하고 있는 것입니다."
"예를 들어, 모든 소프트웨어를 형식적으로 검증하는 아이디어 같은 것들이 AI로 가능해집니다."
AI에 대한 방어는 더 강한 AI만이 할 수 있음(무작정 규제하고 멈춘다고 방어되지 않음)
https://x.com/a16z/status/2099533700375662905