—
앤트로픽은 적대 세력에 맞서 싸우는 동시에 민주적 가치를 수호하는 방식으로 기술을 사용해야 한다고 믿는다.
미 국방부가 원하는 사용 사례의 99%는 허용하지만 두 가지 사용 사례에 대해서는 제한을 요구했다.
1) 국내 대량 감시: AI를 통해 민간 기업이 수집한 데이터를 정부가 대량으로 구매하여 분석하는 것이 가능해지면서 법이 기술 발전을 따라가지 못하는 상황이 발생할 수 있다.
2) 완전 자율 무기: 인간의 개입 없이 발사되는 무기로 현재 AI 시스템은 신뢰성이 충분하지 않아 오작동 시 민간인 피해 등 심각한 문제가 발생할 수 있다.
인간의 감독 없이 대규모 드론이나 로봇 군대가 작동할 경우 책임 소재와 통제에 대한 심각한 우려가 제기된다.
미 국방부는 원칙적으로 앤트로픽과 두 가지 제한에 동의하고 합의를 원한다고 밝혔으나 실제 협상 과정에서는 "국방부가 적절하다고 판단하는 경우"와 같은 모호한 문구를 포함하여 실질적인 양보를 하지 않았다.
앤트로픽은 미 국방부와 협력하여 샌드박스 환경에서 자율 무기를 개발하고 프로토타입을 만들 것을 제안했지만 미 국방부는 처음부터 모든 것을 원하는 대로 할 수 없다면 관심이 없었다.
앤트로픽 가치에 반하는 1%의 사용 사례에 집착하기보다 민주적 가치를 발전시키고 국가를 방어하는 99%의 사용 사례를 추구해야 한다.
앤트로픽은 자사 인력이나 무고한 사람들을 죽일 수 있는 신뢰할 수 없는 제품을 판매하고 싶지 않다.
앤트로픽은 민간 기업으로서 제품 판매 여부를 선택할 수 있으며 미 국방부가 앤트로픽의 서비스 방식이 마음에 들지 않으면 다른 공급업체를 이용할 수 있다.
미 국방부의 부당한 조치: 미 국방부는 앤트로픽과의 원칙 불일치를 이유로 다른 공급업체를 선택하는 대신 국방부 외 다른 정부 기관과의 계약까지 징벌적으로 취소하려 했다.
공급망 위험 지정의 부당성: 특히, 앤트로픽을 공급망 위험으로 지정한 것은 민간 기업의 행동에 대한 징벌적이고 전례 없는 개입이다. 미국 기업에 대해 이러한 공급망 지정이 이루어진 적이 없다.
이러한 지정은 일반적으로 러시아의 카스퍼스키 랩이나 중국 칩 공급업체와 같은 적대국 기업에만 적용되어 왔다.
앤트로픽은 미국의 국가 안보를 위해 많은 노력을 해왔음에도 불구하고 이러한 조치를 받은 것은 매우 징벌적이고 부적절하다고 생각한다.
의회가 개입하여 적대 세력을 물리치는 능력을 저해하지 않으면서도 국가의 가치에 부합하는 안전장치를 마련해야 한다. 의회가 빠르게 움직이지 않으므로 그동안은 기업이 레드라인을 설정해야 한다고 생각한다.
앤트로픽은 특정 행정부나 개인에 대한 비판이 아니라 미국의 국가 안보를 지원하기 위해 최선을 다하고 있다.
https://youtu.be/MPTNHrq_4LU?si=VSxCV3Dl2m5VscPy