🟢 마이크로소프트, '오픈웨이트' AI 모델에 대한 공동서한 발표

✅ 젠슨 황의 서한

-젠슨황은 중국 오픈웨이트 AI를 광범위하게 제한하면 오히려 글로벌 개발자들이 중국 AI 생태계로 이동할 수 있다고 경고

-또한 젠슨 황은 최초로 트위터를 가입하고 미국의 오픈웨이트 AI 전략을 촉구하는 공동성명을 공개하며 크게 화제가 됨

✅ 마이크로소프트의 'Open Weights and American AI Leadership' 발표

-이후 Microsoft 공식 홈페이지와 NVIDIA를 통해 미국 AI 업계 공동성명 발표

-Microsoft, NVIDIA, OpenAI, Meta, Mistral, Cohere, Hugging Face, IBM, GitHub, Palantir, Perplexity, a16z, Y Combinator 등이 이 공동성명에 참여

-미국의 AI 경쟁력은 최고 성능의 프런티어 모델 하나가 아니라 AI를 산업 전반에 확산시킬 개방형 생태계에서 결정된다는 주장

-공동성명 자체에서 중국을 직접 언급하지는 않았지만 중국 오픈웨이트 모델 규제 논의가 진행되는 시점에 발표

✅ 오픈웨이트 AI란 무엇인가?

-모델 가중치를 내려받아 자체 서버나 원하는 클라우드에서 실행하고 수정 및 추가 학습할 수 있는 모델

-학습 데이터와 전체 소스 코드까지 공개하는 완전한 오픈소스와는 구분

-스타트업과 대학, 공공기관 및 중소기업도 매번 고가의 API를 호출하지 않고 자체 AI 구축 가능

-복잡한 작업에는 프런티어 모델, 일반 업무에는 저렴한 특화 모델을 사용하는 방식으로 AI 도입 비용 절감

-특정 AI 기업의 가격 정책이나 서비스 변경에 종속되는 벤더 락인도 완화 가능

✅ 안전성에 대해

-한번 공개된 모델 가중치는 회수하기 어렵고 악의적으로 수정된 모델을 추적하기 힘들다는 위험은 인정

-다만 폐쇄형 모델도 해킹과 오용에서 자유롭지 않으며 소수 기업에 AI 역량이 집중되면 단일 실패 지점이 발생할 수 있다고 주장

-오픈웨이트는 외부 연구자와 개발자가 직접 취약점을 검사하고 레드팀 테스트와 안전성 평가를 진행할 수 있다는 입장

✅ 모델 증류 관련

-강력한 모델의 출력값을 활용해 더 작거나 특화된 모델을 학습하는 증류는 널리 사용되는 정상적인 개발 기술

-불법적인 가치 추출은 별도로 규제하되 증류 기술 자체를 기술 탈취와 동일시해 광범위하게 제한하면 안 된다고 강조

✅ 미국 정부에 대한 요구

-스타트업과 연구자를 위한 컴퓨팅 자원 확대

-공용 데이터셋과 학습 도구, 평가 프레임워크 지원

-오픈웨이트 모델에 대한 성급하고 포괄적인 규제 방지

-미국 기업이 주도하는 오픈 AI 및 애플리케이션 생태계 구축

원문

이번 성명은 중국의 오픈웨이트 생태계가 글로벌 표준을 선점하지 못하도록 미국 주도의 오픈 모델과 개발 생태계를 동시에 키워야 한다는 정책적 공동전선 선언으로 평가 되고 있음

*참고로 OpenAI는 최초에 위 32개 명단에 없었으나 새로 추가 되었으며 앤트로픽은 여전히 명단에 없음