⟪다리오 아모데이, 더 스케일링 커브⟫ part 1

앤스로픽은 AI 스케일링으로 급성장했지만, 안전 원칙과 위험 통제가 제품·정부 계약·자본배분·기업가치를 좌우하는 핵심 변수다.

• 2026년 8월 27일 리타 린 판사는 국방부의 앤스로픽 ‘국가안보 공급망 리스크’ 지정 조치 효력을 막았다.
• 앤스로픽은 미국인 대상 대규모 감시와 인간의 실질적 통제 없는 완전 자율 살상무기 사용을 허용하지 않겠다는 입장을 고수해 국방부와 계약 협상이 결렬됐다.
• 회사는 8월 14일 186쪽 자체 리스크 보고서를 공개했고, 생물학적 위험을 걸러내는 안전장치가 인간 피드백 작업에 적용되지 않았던 사실을 밝혔다.
• 앤스로픽은 미토스 5보다 성능이 높은 미공개 내부 모델 1개를 정렬 및 사이버보안 우려로 출시하지 않기로 했다.
• 다리오 아모데이는 AI의 과학·의학적 편익과 생물테러·사이버공격·감시·실업·권력 집중 위험을 함께 고려하며, 위험한 능력은 제한하고 치료와 과학 발전을 앞당길 활용은 촉진해야 한다고 본다.

시사점: 스케일링이 매출과 기업가치 급등을 뒷받침했지만, 안전 원칙은 출시 가능성과 정부 계약, 대규모 컴퓨트 투자에 직접 영향을 준다. 상장 기대와 장기 성장 전망을 평가할 때 위험 통제 비용과 자본배분의 지속 가능성을 함께 살펴야 한다.