6월 12일 자로 Claude Fable 5 및 Mythos 5 모델에 적용되었던 미국 정부의 수출 통제가 6월 30일부로 전면 해제되었습니다.
Fable 5: 7월 1일부터 전 세계 사용자를 대상으로 Claude 플랫폼 등에서 정상적으로 서비스가 재개됩니다.
Mythos 5: 6월 26일 미국 정부 승인에 따라 미국 내 일부 조직을 대상으로 접근이 복구되었으며, 점진적으로 파트너십을 확대할 예정입니다.
1. 타임라인 및 안전장치 업데이트
사건 발생: 6월 9일 모델 출시 직후, Amazon 연구진이 Fable 5의 안전장치를 우회(Jailbreak)하여 소프트웨어 취약점을 식별하고 악용하는 방법을 발견했다는 보고서가 정부에 접수되면서 수출 통제가 시행되었습니다.
조사 결과: 테스트 결과 이는 이전 모델(Opus 4.8 등)이나 타사 모델에서도 동일하게 재현되는 수준이었으며, Mythos 5급의 고도화된 사이버 공격 능력이 노출된 것은 아님을 확인했습니다.
조치 사항: 정부와 협력하여 해당 우회 기법을 99% 이상 차단하는 개선된 안전 분류기(Safety classifier)를 신속하게 학습 및 적용했습니다. 이로 인해 정상적인 코딩 작업 중에도 차단되는 '오탐지(False positive)'가 늘어났으나, 지속해서 개선해 나갈 예정입니다.
2. 사이버 보안 안전장치에 대한 접근 방식
안전 여유(Safety margin): 방어용 사이버 보안에 특화된 Mythos 5와 달리, 일반 사용자용인 Fable 5는 심각한 오용을 막기 위해 역대 가장 강력한 안전장치를 적용했습니다.
안전 분류기가 위험을 판별할 때, 모호한 요청이나 약간의 위험 가능성만 있어도 선제적으로 차단하도록 안전 여유를 넓게 설정했습니다.
이러한 보수적인 접근을 통해, 가장 위험한 수준의 '보편적 우회(Universal jailbreak)' 시도를 원천적으로 어렵게 만들고 있습니다.
3. 업계 공통 '탈옥(Jailbreak)' 평가 프레임워크 도입
AI 업계 내에 우회 기법의 심각성을 평가할 통일된 기준이 부재하다는 점을 인지하고, Amazon, Microsoft, Google 등 파트너사들과 함께 공통 프레임워크 개발을 시작했습니다. 제안된 4가지 평가 기준은 다음과 같습니다.
능력 향상도 (Capability gain): 우회 시 기존 도구 대비 공격자의 능력이 얼마나 비약적으로 상승하는가?
능력 향상의 범위 (Breadth of capability gain): 하나의 우회 기법이 얼마나 다양한 공격 대상/기법에 적용 가능한가?
무기화 용이성 (Ease of weaponization): 우회 기법을 실제 공격으로 전환하는 데 얼마나 많은 인적 노력(프롬프트 시도 횟수 등)이 필요한가?
발견 가능성 (Discoverability): 해당 우회 기법을 알아내거나 온라인에서 구하기가 얼마나 쉬운가?
4. 미국 정부와의 파트너십 강화
국가 안보와 직결된 최첨단 AI 모델의 안전을 위해 미국 정부와의 협력을 대폭 강화합니다.
출시 전 정부 접근 및 평가: 국가 안보와 관련된 모델의 경우, 출시 전 정부 파트너에게 사전 접근 권한을 제공하여 자체적인 안전성 테스트를 지원합니다.
신속한 정보 공유: 중대한 우회 기법이나 오용 사례 발견 시 신속하게 조사하여 정부와 공유하고, 방어 체계 마련을 위한 위협 정보 분석에 참여합니다.
공동 연구 전담 리소스: AI 보안 우선순위 해결을 위해 정부와 협력할 전담 팀을 구성하고, 대규모 컴퓨팅 자원 및 안전 평가 전문 지식을 제공합니다.
업계 공통 보안 기준 마련: 정부 및 업계 동료들과 협력하여 최첨단 모델 제공업체가 준수해야 할 자발적인 보안 및 평가 표준을 정립합니다.
https://www.anthropic.com/news/redeploying-fable-5