OpenAI의 샘알트먼이 장문의 트윗을 작성했는데
AI가 정렬·모니터링 기술보다 앞질러 가지 않도록 개발의 최대 속도보다는 천천히 가야한다는 입장
기존에 안전 정책으로 완성된 모델 출시전에 검증을 했다면
이제는 개발 과정부터 안전성을 검증하는게 중요하다고 함
OpenAI는 능력을 크게 끌어올릴 것으로 예상되는 강화학습을 시작하기 전, 안전성을 뒷받침하는 근거인 ‘세이프티 케이스’를 미리 마련하고 있다고 설명
미국 연방 차원의 공통 안전 기준과 독립 감사도 가능하지만
법이나 반독점 예외가 마련될 때까지 기다릴 필요는 없다는 것
업계가 먼저 정렬·모니터링·안전 기준을 함께 만들고, 정부에는 국제 공조를 요청하자는 제안
결국 안전 검증에 드는 비용과 속도 저하를 감수하겠다는 메시지.
미국의 경쟁력을 지켜야 한다는 압박도 무리한 개발을 정당화할 수는 없다고 선을 그음.
다만 OpenAI가 AI에서 앞서가고 있는데
중국 or 다른 AI 모델이 앞서가는걸 안전성때문에 늦출지는 아니라고봄