US 정부, Anthropic Fable 및 Mythos 모델에 대한 외국인 접근 금지

US 정부, Anthropic의 최상위 AI 모델에 대한 외국인 접근 중단

트럼프 행정부는 Fable 5 및 Mythos를 포함한 Anthropic의 가장 강력한 AI 모델에 대해 외국 정부, 기업 및 개인의 접근을 금지했습니다. 이번 결정은 Amazon의 연구원들이 특정 프롬프트를 사용하여 모델의 안전 가드레일에 의해 제한되어야 할 정보, 즉 사이버 공격을 용이하게 할 수 있는 Fable 5의 정보를 추출할 수 있다는 보고가 있은 후에 내려졌습니다.

단속에 있어 Amazon의 역할

Amazon CEO Andy Jassy와 Scott Bessent 재무장관, Sean Cairncross 국가 사이버 디렉터, Howard Lutnick 상무장관을 포함한 미국 정부 고위 관리들과의 대화가 정부의 대응을 촉발했습니다. Jassy는 관리들에게 Amazon 연구원들이 Fable 5를 유도하여 사이버 공격에 유용한 금지된 정보를 제공하도록 하는 데 성공했다고 보고했습니다.

Amazon은 Anthropic의 주요 투자자(지분 5% 이상 보유)이자 핵심 컴퓨팅 칩 공급업체임에도 불구하고, Jassy의 보고로 인해 백악관은 보안 위험을 완화하는 가장 직접적인 방법은 해당 도구에 대한 외국인의 접근을 차단하는 것이라고 결론지었습니다. 트럼프 대통령은 글로벌 혁신을 저해할 수 있다는 우려에도 불구하고 보안상의 이유로 이 조치를 승인했습니다.

Anthropic의 대응 및 운영상의 영향

정부의 명령을 완전히 준수하기 위해, Anthropic은 모든 사용자에 대해 Mythos와 Fable에 대한 접근을 차단하는 극단적인 조치를 취했습니다. 이 조치는 다음과 같은 즉각적인 과제를 야기했습니다:

• 연구 저해: Anthropic은 자체 연구원 중 다수가 외국 태생임을 밝히며, 정부의 규칙이 결과적으로 그들이 최신 모델을 연구하는 것을 방지한다고 말했습니다.
• 글로벌 취약점 연구: 이번 차단은 글로벌 기업들이 소프트웨어 취약점을 식별하고 패치하기 위해 이러한 도구들을 사용하는 능력을 저해할 가능성이 있습니다.
• 시장 입지: 분석가들은 최상위 모델의 중단을이 가을에 예정된 잠재적인 기업공개(IPO)를 준비하는 Anthropic의 입지를 약약화시킬 수 있으며, 잠재적으로 사용자를 OpenAI와 같은 경쟁사로 유도할 수 있다고 시사합니다.

모델 안전성에 대한 기술적 논쟁

Fable 5가 독특한 보안 위협을 나타내는지에 대해서는 상당한 이견이 있습니다. Anthropic과 일부 독립 보안 연구원들은 Amazon이 지적한 취약점이 기본적인 것이며, 다른 공개적으로 사용 가능한 LLM들도 유사한 발견을 할 수 있다고 주장합니다.

GreyNoise Intelligence의 설립자인 Andrew Morris는 Fable 5가 소프트웨어 프로그램의 보안 버그를 식별할 수 있지만, Amazon 연구원들이 모델의 작동 가능한 "exploit" 코드를 생성하는 능력을 보호하는 가드레일을 우회한 증거는 없다고 언급했습니다.

정치적 및 규제적 맥락

이번 단속은 AI 산업에 대한 정부의 통제력을 강화하려는 더 큰 흐름의 일부로 보는 시각이 있습니다. 이번 조치는 보안 관리들이 AI 모델에 대해 더 많은 감독권을 갖도록 허용하는 최근의 행정 명령과 정부가 AI 기업의 지분을 소유하는 것에 대한 지속적인 논의를 뒤따릅니다.

비판론자들과 관찰자들은 다음과 같은 근저에 깔린 긴장을 강조했습니다:

• 정치적 마찰: Anthropic은 자유주의 후원자들과의 관계 및 CEO Dario Amodei의 이전 행정부 비판으로 인해 트럼프 행정부와 마찰을 빚은 역사가 있습니다.
• 보안 지정: Pentagon은 이전에 Anthropic을 보안 위험으로 지정한 바 있으며, 회사는 현재 두 건의 소송을 통해 이에 맞에 서고 있습니다.
• 통제권의 중앙집중화: R Street Institute의 Adam Thierer는 이 사건을 "AI의 정치화와 고급 연산에 대한 통제권의 중앙집중화에 있어 중요한 에스컬레이션"이라고 묘사했습니다.

커뮤니티 관점 및 분석

Hacker News의 산업 관찰자들과 사용자들은 금지 조치의 동려는한 배경에 대해 몇 가지 반론과 이론을 제시했습니다:

"I still am struggling to understand why they informed the government about something that is known to be an issue in an every LLM. 모든 LLM에서 발생하는 문제로 알려진 것에 대해 왜 정부에 알렸는지 여전히 이해하기 어렵습니다. 어떤 LLM도 jailbreak를 할 수 없는 것은 아니며... 왜 지금 정부에 알린 것입니까?"

일부 사용자들은 이번 조치가 xAI의 경쟁자를 억제하려는 시도이거나, 또는 Amazon이 Anthropic의 대리인 역할을 하여 정부가 Anthropic을 "shaking down"하는 결과일 수 있다고 추정했습니다. 다른 이들은 벤더(Amazon)가 파트너(Anthropic) 파트너너를 정부에 보고하는 아이러니를 지적했습니다. 한편, 어떤 이들은 Amazon의 행동이 높은 보안 표준을을 요구하는 공공 부문 고객을 위해 서비스를 제공하는 클라우드 제공업체로서의 역할의 결과라고 주장했습니다.