이번 여름 동안 저희는 안전 관련 우선 과제들을 전속력으로 추진해 왔습니다. 모델의 역량과 안전장치가 함께 발전하는 것이 그 어느 때보다 중요하기 때문입니다. 아직 해야 할 일이 더 많지만, 많은 진전을 이뤄냈습니다. 또한 조만간 차기 모델을 선보일 예정입니다.
여기에는 분명한 딜레마(긴장감)가 존재합니다. 한편으로 아스트라(Astra)는 매우 훌륭하며, 사람들이 이를 활용해 어떤 결과물을 만들어낼지 무척 기대됩니다. 저희가 해낸 일에 대해 자부심도 느낍니다.
다른 한편으로, 지금은 명백히 신중함이 요구되는 개발 단계이며, 새로운 성능 수준에 요구되는 안전 기준을 충족할 수 있도록 개발 속도를 조절하고 있습니다.
아스트라는 이미 얼마 전에 학습을 마쳤으며, 성능과 얼라인먼트(정렬) 양면 모두에서 상당한 도약을 이뤄냈습니다. 그 이후의 모델들에 대해서는 안전 및 얼라인먼트 작업을 충분히 수행할 수 있도록 필요에 따라 속도를 늦추고 있습니다.
AI는 극도로 유능해지고 있지만, 이것이 가져올 파급 효과를 완벽히 이해하는 사람은 아무도 없습니다. 풍부하고 강력한 AI가 공존하는 세상으로의 전환을 잘 관리하여 인류의 안전과 이익을 극대화하는 것은 전 세계 최우선 과제 중 하나가 되어야 합니다. 그리고 이는 OpenAI의 가장 중요한 우선순위입니다.
저희는 진보에 대한 기대감과 불안감 사이의 긴장 속에서 얼마간 지내왔으며, 이는 여전히 저희에게도 혼란스럽고 복잡한 감정입니다. 다른 사람들에게는 그 불안과 혼란이 훨씬 더 크게 다가올 것임을 알고 있습니다. 그럼에도 불구하고, AI가 어디로 향하고 있는지, 그리고 모델들이 실제 세상에서 어떻게 작동하는지를 사회가 반드시 이해해야 한다고 굳게 믿습니다. 더 중요한 것은, 이 전환의 다음 단계들을 헤쳐 나가기 위해 인류와 조화를 이루는(aligned) AI가 필요할 것이라는 점입니다.
사회와 기술이 함께 발맞추어 진화해 나가는 반복적인 순환 구조야말로 이 과정을 올바르게 완수할 확률을 가장 높이는 방법입니다.
새로운 모델을 즐겁게 사용해 주시기를 바라며, 아울러 전 세계가 AI 분야에서 일어나고 있는 일들을 계속해서 매우 진지하게 받아들여 주기를 바랍니다.
https://x.com/sama/status/2094934592062959832?s=20