Anthropic이 올해 이용자들이 Claude를 생물무기 개발에 활용할 가능성이 있는 연구 사례 5건을 적발·차단했다고 공개.
일부 이용자는 안전장치를 우회하거나 연구 목적을 숨기려 했으며, Anthropic 서비스가 금지된 지역에서도 접근을 시도.
사례 중에는 한 연구자가 수주 동안 Claude와 조류인플루엔자 관련 실험을 계획한 경우도 포함. 안전 필터가 작동해 성능이 가장 낮은 모델만 이용하도록 제한했으며 관련 계정은 모두 차단.
다만 Anthropic은 실제 생물무기 개발 의도였는지는 확인할 수 없다고 강조. 같은 정보가 백신 개발에도 활용될 수 있고, AI가 이론적인 설계를 지원하더라도 실제 제작에는 여전히 상당한 현실적 장벽이 존재한다는 입장.
보고서는 이외에도 가짜 데이팅 앱을 이용한 사기, 반체제 인사 감시 시스템 등 AI 악용 사례를 공개. 또 문샷·딥시크 등 중국 AI 연구소 7곳이 증류 방식으로 자사 모델 역량을 복제하려 했다는 주장도 제기.
- 출처: FT