오픈AI는 차기 AI 모델인 GPT-6.1 Astra가 회사의 안전 기준을 충분히 충족하지 못한다고 판단해 출시하지 않기로 결정했으며, CNBC가 월요일 이를 확인했습니다. 오픈AI 안전 시스템 책임자인 사치 자인(Saachi Jain)은 이 모델이 작업 범위와 권한 내에 머무르는 측면, 그리고 수행한 작업의 유형을 사용자에게 전달하는 방식에서 기준에 다소 미치지 못했다고 설명했습니다. 그는 사내 개발이든 사용자 대상 배포든 모델 개발의 안전성을 보장하고자 하지만, 특히 사용자에게 배포할 때는 안전성과 얼라인먼트 측면에서 매우 높은 기준을 적용한다고 밝혔습니다. 이번 결정은 월스트리트저널이 처음 보도했으며, 오픈AI의 연례 개발자 컨퍼런스를 하루 앞두고 나왔습니다.
이번 발표는 첨단 모델의 안전성을 둘러싼 우려가 AI 업계 전반에서 커지는 가운데 나온 것으로, 이달 초 오픈AI의 최대 경쟁사인 앤트로픽 경영진이 AI 기업들에 모델 개발 속도를 늦출 것을 촉구했고 샘 올트먼 오픈AI CEO도 이 제안을 지지한 바 있습니다. 오픈AI는 이달 초 수년간의 연구와 대규모 베팅의 결과물이라고 소개한 GPT-6 Astra를 출시했으며, 당시 올트먼은 Astra가 새로운 수준의 역량을 갖추고 창업, 창의성, 경제성장, 과학적 발견의 붐을 이끌 것이라고 말했습니다. 오픈AI는 지난주 GPT-6 제품군에 GPT-6 Sol과 GPT-6 Luna라는 두 가지 등급을 추가했으며, 대변인은 월요일 곧 출시될 다른 모델들도 있다고 밝혔습니다.
OpenAI abandons plan to release upcoming model as safety concerns escalate