Anthropic, 미국 정부 지침에 따라 Fable 5 및 Mythos 5 중단
Anthropic은 미국 정부의 수출 통제 지침에 따라 모든 고객에 대한 Fable 5 및 Mythos 5에 대한 액세스를 비활성화했습니다. 2026년 6월 12일에 발행된 이 지침은 모든 외국인에 대한 액세스 중단을 요구하며, 이에 따라 규정 준수를 보장하기 위해 이러한 특정 모델들의 완전한 중단이 필요합니다.
서비스 중단 범위
Fable 5 및 Mythos 5에 대한 액세스는 전 세계 모든 사용자에게 중단됩니다. Anthropic의 다른 모든 모델에 대한 액세스는 영향을 받지 않습니다.
정부 지침의 근거
미국 정부는 국가 안보 권한을 인용하며 지침을 발행했으나, 우려 사항의 정확한 성격에 관한 구체적인 세부 사항은 제공하지 않았습니다. Anthropic은 정부의 조치가 Fable 5를 우회하거나 "jailbreak"하는 방법이 발견되었다는 믿음에 근거하고 있다고 보고합니다.
Anthropic의 정부 증거에 대한 내부 검토 결과는 다음과 같습니다:
- 제공된 증거는 구두였으며, 좁은 범위의 비보편적 jailbreak에 관한 것이었습니다.
- 특정 기술은 모델에게 코드베이스를 읽고 소프트웨어 결함을 수정하도록 요청하는 것을 포함했습니다.
- Anthropic에 따르면, 이 jailbreak로 인해 입증된 기능은 OpenAI의 GPT-5.5를 포함한 다른 모델에서도 이미 널리 사용 가능하며, 사이버 보안 방어자들에 의해 흔히 사용됩니다.
- 식별된 취약점은 경미하고 이전에 알려진 것이었습니다.
Anthropic의 안전 및 방어 전략
Anthropic은 완벽한 jailbreak 저항성이 현재 어떤 모델 제공업체에게도 불가능하다는 점을 인정하며, Fable 5가 "defense in depth" 전략과 함께 배포되었음을 유지합니다. 이 전략에는 다음이 포함됩니다:
- Extensive Red-Teaming: 출시 전 미국 정부, UK AISI, 민간 제3자 조직 및 내부 팀과 함께 수행된 수천 시간의 테스트.
- Strong Safeguards: 사이버 보안 작업에 대한 오용 가능성을 줄이기 위해 설계된 안전장치 구현, 일부 사용자는 이것이 지나치게 광범위하다고 보고했습니다.
- Monitoring and Data Retention: jailbreak를 빠르게 연구하고 완화하기 위해 회사가 연구할 수 있도록 하는 30일 고객 데이터 보관 정책.
- Classification of Jailbreaks: Anthropic은 "universal jailbreaks"(광범위한 사이버 능력을 차단 해제하기 위해 안전장치를 광범위하게 우회하는 것)와 "non-universal jailbreaks"(제한된 상황에서 특정 정보를 이끌어내는 것)를 구분합니다. 회사는 테스터들이 Fable 5에 대한 universal jailbreak를 발견하지 못했다고 명시합니다.
규제 프로세스에 대한 입장
법적 지침을 준수하는 한편, Anthropic은 좁은 범위의 잠재적 jailbreak를 근거로 상업용 모델을 회수하는 결정에 동의하지 않습니다. 회사는 이 표준을 업계 전체에 적용하면 프론티어 모델 제공업체들의 모든 새로운 모델 배포를 사실상 중단시킬 것이라고 주장합니다.
Anthropic은 정부가 안전하지 않은 배포를 차단할 권한을 가져야 하지만, 그러한 조치치는 투명하고, 공정하고, 명확하며, 기술적 사실에 근거한 법적 프로세스를 통해 이루어져야 한다고 주장합니다. 이는 이번 특정 조치에 대해 그들이 주장하는 원칙이 따르지 않았음을 의미합니다.
Sources
관련
- Dispatch
- Dispatch
- Dispatch
- Dispatch
- Dispatch