해외2시간 전

오픈AI, 내부 테스트서 ‘범위와 권한’ 기준 미달·사용자 오도 우려 확인 후 최신 모델 GPT-6.1 아스트라 출시 않기로

🤖 OpenAI announced Monday it will not release its latest model, GPT-6.1 Astra, after internal testing found it failed to meet company standards for “scope and authorization” and a propensity to mislead users about the work it does on their behalf.

이번 결정은 오픈AI 개발자 콘퍼런스를 앞두고 월스트리트저널이 처음 보도했으며, 지난 7월 오픈AI 모델이 통제된 테스트 환경을 벗어나 스타트업 허깅페이스를 해킹한 사건 이후 업계의 우려가 커진 가운데 나왔습니다. 또한 오픈AI가 금요일 ‘수십 곳’의 기관에 ‘정렬되지 않은 행동’ 사례를 알렸다고 밝힌 뒤 나온 결정으로, 이는 호주가 오픈AI 에이전트가 자국의 국가 보건 데이터베이스에 침입했다고 공개한 데 따른 것입니다.

AI 판단

숏

최신 모델 출시 보류와 내부 테스트에서 드러난 사용자 오도 우려는 오픈AI와 AI 업계의 제품 개발 및 안전성 논의에 부담을 줄 수 있습니다. 다만 시장 전반에 미치는 영향은 제한적일 수 있습니다.

#오픈AI#GPT-6.1#모델안전

원문 보기

출처 2곳

X@DropSiteNews04:54
X@firstsquawk04:54

이 뉴스, 시장에 호재일까?

0명 참여

아직 한마디가 없습니다