📕 Anthropic 모델 Fable 의 외국인 접근 차단은 제품 취약점으로 인해서 취해진 문제라고 하네요.

📂 David Sacks 가 말하는 주된 내용
🟢 Fable 에서 안전장치를 우회하는 JailBreak 를 발견함
🟢 미국 정부는 Anthropic CEO 인 Dario 에게 취약점을 수정하거나 모델 서비스를 중단하라고 요청
🟢 Anthropic 은 JailBreak 가 심각하지 않다고 주장
🟢 이에 대응해 미국 정부는 수출 통제를 발동함(정부도 이 조치를 마지못해 시행했다고 언급)
🟢 정부 입장에서는 취약점만 수정하면 되는 합리적인 요청이었지만 Anthoripic 이 협조하지 않은것에 놀랏음
🟢 현재 Anthropic의 대응은 그들이 강조해온 AI 안전 철학과 상당히 어긋난다는 평가

트위터