Anthropic가 Project Glasswing과 Claude Mythos Preview를 확장합니다
Anthropic는 약 150개의 새로운 조직에 Project Glasswing을 확장하여 중요한 글로벌 인프라를 보호하고 있습니다. 이 확장은 50개의 파트너가 Claude Mythos Preview를 사용하여 코드베이스에서 10,000건 이상의 높음 또는 critical severity 보안 결함을 식별한 초기 단계에 이어집니다.
AI 기반 취약점 탐지 확장
Project Glasswing은 신뢰할 수 있는 파트너에게 Claude Mythos Preview에 대한 접근을 제공하여 세계에서 가장 중요한 소프트웨어를 보호하는 것을 목표로 합니다. 확장된 코호트는 이전에 대표되지 않았던 산업 분야의 15개국 이상의 조직을 포함하며, 의료, 전력, 수자원, 통신, 하드웨어 등이 포함됩니다. 이러한 새로운 파트너 중 다수는 정부 및 기타 글로벌 조직에 의존되는 코드베이스를 가진 공급업체입니다.
Anthropic는 이러한 파트너의 코드베이스에 대한 성공적인 공격이 재앙적이 될 수 있으며, 1억 명 이상에 영향을 미치고 국가 및 글로벌 보안에 영향을 줄 수 있다고 추정합니다.
Claude Mythos Preview의 전략적 역할
Anthropic는 Mythos Preview의 배치를 다른 AI 개발자들이 피할 수 없이 출시할 'Mythos-class' 모델에 대한 필수적인 방어 조치로 보고 있습니다. 회사는 6~12개월 이내에 악용을 방지하기 위한 필요한 보호 장치 없이 유사한 모델이 출시될 수 있다고 예측하며, 이로 인해 더 fréquents하고 예측不能한 사이버 공격이 발생할 수 있다고 봅니다.
산업이 적응하도록 돕기 위해 Anthropic는 두 가지 전략을 추구하고 있습니다:
- 방어 도구 제공: Anthropic는 Claude Opus 4.8과 같은 공공 프론티어 모델을 활용하여 코드베이스를 스캔하고 패치를 제안하는 제품인 "Claude Security"를 출시했습니다. 또한 신뢰할 수 있는 보안 팀에 전문 도구를 제공하여 취약점 발견을 가속화하고 있습니다.
- 수리로의 전환: 초점은 단순히 취약점을 찾는 것에서 취약점을 공개하고, 수정하며, 패치를 배포하는 것으로 이동하고 있습니다. 파트너는 Mythos Preview를 사용하여 패치를 작성하고, 사전 릴리즈 검사를 수행하며, 침투 테스트를 진행하고, 메모리 안전한 언어로 레거시 코드베이스를 재구성하고 있습니다.
일반 접근 및 보호 장치의 도전
Anthropic는 일반 대중에게 Mythos 수준의 기능을 출시하려고 하지만, 아직 오용을 방지하기 위한 강력한 보호 장치가 개발되지 않았다고 밝히고 있습니다. 사이버 기능은 방어와 공격 दोनों에 사용될 수 있기 때문에 정확하고 강력한 보호 장치를 만드는 것은 여전히 중요한 기술적 과제로 남아 있습니다.
그 동안 Anthropic는 중요한 인프라 제공자, 오픈소스 유지 관리자, 그리고 안전 테스터를 우선시하여 Project Glasswing 확장을 계속할 것입니다. 또한 특정 사이버 방어 작업에 Mythos-class 기능을 부여하기 위해 Cyber Verification 프로그램을 확장하고 있습니다.
커뮤니티 관점 및 비판
기술 실무자 및 관찰자들 사이의 논의는 Anthropic의 주장과 실제 세계의 유용성 사이의 차이를 드러냅니다. 일부 사용자는 모델의 출력이 소음이 많아 보안 팀을 압도할 수 있는 많은 양의 거짓 양성을 유발한다고 보고합니다.
"우리에게는 이것이 абсолютно 소음으로 inundated되었습니다... 수백 수천 개의 거짓 양성 또는 사소한 문제 또는 적용되지 않는 문제들이 있습니다. 한 가지 합리적인 문제마다... 가장 큰 문제는 임원들이 모델이 생성한 모든 문제를 '모든 것을 멈추고 수정해야 하는 문제'처럼 취급했다는 점이었습니다.
다른 비판자들은 제한된 rollout이 안전 필요성보다는 전략적 움직임일 수 있다고 제안합니다. 이론에는 다음과 같은 것이 포함됩니다:
- 컴퓨팅 제약: 일부는 제한된 접근이 컴퓨팅 용량 때문에 모델을 규모대로 제공할 수 없는 것을 가리기 위한 가면이라고 주장합니다.
- 마케팅 전략: 일부는 '희소성 플레이'를 보안 시장에서 높은 가치의 엔터프라이즈 제품으로 도구를 위치시키기 위해 과대광고를 구축하는 방법이라고 봅니다.
- 프라이버시와 주권: 단일 미국 기반 기업에 중요한 인프라 소스 코드를 넘기는 것에 대한 우려가 제기되었으며, 일부는これが 유출된 소스 코드의 정부 감사를 용이하게 할 수 있다고 제안합니다.
이러한 비판에도 불구하고, 일부 개발자는 Rust와 같은 메모리 안전한 언어로 중요한 웹 인프라를 포팅하여 전체 취약점 클래스를 제거하는 것과 같은 목표를 AI 에이전트를 사용하여 독립적으로 탐구하고 있습니다.