Anthropic 데이터 보존 정책 (Mythos 및 Fable 모델)

Anthropic, Mythos-Class 모델에 30일 데이터 보존을 의무화

Anthropic은 Claude Mythos 5 및 Claude Fable 5를 포함한 Mythos-class 모델이 생성하는 모든 프롬프트와 출력에 대해 30일 보존 기간을 의무화하고 있습니다. 이 정책은 2026년 6월 9일부터 시행되며, 이전에 Zero Data Retention (ZDR) 계약을 사용하던 조직을 대상으로 하여, 이러한 고성능 모델에 대해 ZDR 옵션을 제거하고 안전 모니터링 및 오용 탐지를 가능하게 합니다.

정책 변경 범위

이번 업데이트는 모든 사용자에게 동일하게 적용되지 않습니다. 영향은 플랜 및 플랫폼별로 구분됩니다:

  • Unaffected Users: 웹, 데스크톱, 모바일 앱 전반에 걸친 소비자 플랜(Claude Free, Pro, Max)은 데이터가 이미 안전 목적을 위해 보존되고 있으므로 변경되지 않습니다.
  • Affected Users: ZDR을 사용하는 Claude Console, ZDR을 사용하는 Claude Enterprise(Claude Code 포함), 그리고 AWS Bedrock, Google Cloud Agent Platform, Microsoft Foundry를 통해 ZDR을 사용하는 Claude에 접근하는 조직들.

이러한 영향을 받는 조직은 Mythos-class 모델 및 향후 유사한 기능을 가진 “covered models”에 접근할 때 30일 보존 기간을 요구하게 됩니다.

근거: 복잡한 오용 패턴 탐지

Anthropic은 Claude Mythos 5와 Fable 5의 향상된 기능으로 인해 보다 보수적인 안전 접근이 필요하다고 밝히고 있습니다. 회사는 특정 악의적인 활동이 단일 프롬프트를 평가하는 것이 아니라 다수의 요청에 걸친 패턴을 분석할 때만 탐지될 수 있다고 주장합니다.

주요 위협으로는:

  • Best-of-N Jailbreaking: 성공적인 악용을 찾기 위해 수백 개의 약간씩 다른 프롬프트를 전송하는 행위.
  • Large-scale Campaigns: 안전 분류기가 시간에 걸쳐 광범위한 요청을 분석할 때만 드러나는 국가 지원 스파이 활동 및 데이터 갈취 캠페인.

데이터 보호 및 접근 제어

이 보존과 관련된 개인정보 위험을 완화하기 위해 Anthropic은 다음과 같은 보호 조치를 제시했습니다:

  • Restricted Access: 직원은 심각한 해를 초래하는 경우로 표시되었거나 고객이 서면으로 요청한 경우를 제외하고 대화에 접근할 수 없습니다.
  • Technical Constraints: 검토는 데이터를 복사, 내보내기 또는 다운로드할 수 없도록 하는 도구를 사용하는 소수의 승인된 인원에 의해 수행됩니다.
  • Auditability: 모든 접근은 변조 방지 로그에 기록됩니다.
  • Automatic Deletion: 데이터는 30일 후 자동으로 삭제되며, 단, 현재 진행 중인 안전 조사나 법적 요구가 있는 경우는 예외입니다.
  • Enterprise Options: 해당 조직은 고객이 관리하는 암호화 키와 접근 투명성 감사 로그를 구현할 수 있습니다.

커뮤니티 반응 및 기술적 우려

이 발표는 Hacker News에서 개발자와 법률 전문가 사이에 큰 논쟁을 일으켰으며, 개인정보 보호, 규정 준수 및 모델의 실용적 활용에 초점을 맞추고 있습니다.

개인정보 및 법적 함의

비평가들은 정책 문구, 특히 데이터가 30일 후 “거의 모든 경우”에 삭제된다는 조항에 대해 우려를 표명했으며, 이는 무기한 보존에 대한 잠재적 허점을 시사합니다. 법적 논의에서는 GDPR과의 잠재적 충돌도 강조되었습니다:

"Anthropic은 이 모델에 제출된 모든 데이터에 대한 GDPR 컨트롤러가 되고 있습니다... 원본 수출자는 GDPR에 해당하는 개인 데이터를 이 모델에 전송하면 위반이 될 가능성이 높습니다."

또한 NDAs 및 HIPAA 준수에 대한 영향, 특히 AWS Bedrock와 같은 서비스에서 VPC를 통해 모델을 사용하는 경우에 대한 우려가 추가로 제기되었습니다.

기업 채택에 미치는 영향

많은 사용자는 많은 기업이 데이터 보존에 대해 무관용 정책을 가지고 있기 때문에 이 정책이 기업 채택을 저해할 것이라고 믿고 있습니다.

"이는 대부분의 기업 고객에게 금지될 가능성이 높습니다. 그들은 일반적으로 이러한 것에 대해 무관용 정책을 가지고 있습니다."

모델 동작 및 “다운그레이드”

일부 사용자는 Fable 5의 안전 필터가 특히 생물학적 또는 의료 콘텐츠와 관련해 과도하게 공격적이며, 콘텐츠 플래그가 트리거될 경우 시스템이 사용자를 자동으로 이전 Opus 모델로 “다운그레이드”한다는 보고를 했습니다.

"다행히도 저는 Fable을 사용할 수 없습니다. 그들의 과도하게 활성화된 콘텐츠 플래그는 생물학적이거나 의료와 관련된 어떤 작업도 허용하지 않으며, 플래그가 발생하면 즉시 Opus로 다운그레이드됩니다."

Sources