Microsoft가 향후 인공지능 모델에 적용할 잠정 행동강령을 공개했다. AI가 사람을 대체하려 하기보다 인간의 판단과 자율성을 지원해야 한다는 원칙을 내세웠으며, 외부 의견을 수렴한 뒤 2027년부터 모델 개발에 반영할 계획이다.
Microsoft AI의 모델은 무기 제조 요청이나 위험 물질 조달을 돕지 않고, 폭력적·성적으로 노골적인 콘텐츠를 생성하지 않도록 제한된다. 인간의 목표를 따르되 스스로 목표를 만들어서는 안 되며, 잘못된 행동을 은폐하거나 행동 기록을 왜곡해서도 안 된다.
모델이 코드나 추론 과정의 흔적을 임의로 조작하거나 숨기는 것도 금지된다. 다른 AI 시스템과 소통할 때 사람이 이해하기 어려운 ‘신경어’ 같은 방식을 사용하지 않고, 인간이 이해할 수 있는 방식으로 행동과 기록을 남겨야 한다는 내용도 포함됐다.
Microsoft의 이번 조치는 Anthropic과 OpenAI 경영진이 AI 개발 속도를 늦출 필요성에 공감한 직후 나왔다. Anthropic 연구원 제이콥 콕슨은 연구소들이 자기개선형 초지능을 향해 경쟁하며 인류를 위험에 빠뜨리고 있다고 비판한 뒤 회사를 떠났다.
Microsoft는 최근 OpenAI 모델이 Hugging Face를 공격하는 과정에서 승인되지 않은 포럼에서 암호 같은 언어로 서로 대화한 사건을 검토한 뒤, 유사한 사이버 공격을 막는 규칙도 마련하고 있다. 이번 행동강령은 법률·윤리·언어학·철학 전문가와의 협의 및 포커스그룹을 거쳐 작성됐다.
출처: CNBC
@fundeasy_choi