Nvidia, Microsoft, 그리고 Meta는 오픈-웨이트 AI 모델 과도한 규제에 경고한다

기술 거대 기업들은 미국 경쟁력을 유지하기 위해 오픈-웨이트 AI 접근성을 촉구한다

Nvidia, Microsoft, Meta, Palantir 및 기타 20개 이상의 회사는 오픈-웨이트 AI 모델에 대한 '조기 제한'을 피하도록 미국 정책 입안자들에게 촉구하는 공동 서한을 발행했습니다. 연합은 이러한 모델을 제한하면 경쟁이 억제되고 AI 혁신이 해외로 유출될 것이라고 주장하며, 특히 중국 오픈-웨이트 모델이 상당한 traction을 얻고 있다는 점을 강조했습니다.

오픈-웨이트 모델(사용자가 자신의 인프라에서 AI를 다운로드, 수정, 실행할 수 있게 함)은 서명자들에 의해 건강한 AI 생태계의 핵심 구성 요소로 간주됩니다. 해당 서한은 몇 개의 폐쇄 모델에 고급 AI 역량을 집중시키면 시스템적 위험이 증가한다고 주장하며, 다음과 같이述べました: "폐쇄 모델에만 의존하는 것은 본질적으로 안전하지 않습니다: 외부인이 감지할 수 없는 방식으로 침해, 오용, 또는 실패할 수 있습니다."\n

중국 오픈-웨이트 모델의 부상과 증류 논쟁

중국 AI 개발은 점점 더 미국 proprietary 모델에 도전하고 있습니다. Moonshot AI는 최근 Kimi K3를 출시했는데, 이는 특정 산업 벤치마크에서 여러 주요 미국 모델보다 성능이 뛰어납니다. 이로 인해 미국 정부 내에서 중국 모델에 대한 잠재적 제재 또는 제한에 대한 논의가 이루어지고 있습니다.

모델 증류의 역할

논쟁의 핵심은 "증류"입니다. 이는 더 강하고 기존 모델의 출력을 사용하여 더 작고 능력이 낮은 모델을 구축하는 훈련 방법입니다. 백악관 고문 Michael Kratsios는 Moonshot AI의 Kimi K3가 Anthropic의 기술을 증류하여 개발되었다고 제안했습니다. Kratsios는 합법적인 증류가 혁신에 필수적임을 인정했으나, "대규모이고 은밀한 산업적 증류로 미국 proprietary 기술을 훔치는 것"은 용납할 수 없다고 특징지었습니다.

이에 대응하여 기술 기업 연합은 불법적인 증류에 대한 우려를 해당 기술 자체에 대한 광범위한 제한이 아닌 "목표를 둔 법적 및 상업적 프레임워크"를 통해 해결해야 한다고 주장하며, 이러한 기술들이 AI 혁신에 필수적이라고 강조했습니다.

하드웨어 제공업체와 모델 연구소 간의 차이

업계에서는 오픈-웨이트 모델 지원에 대해 상당한 분열이 있으며, 이는 주로 비즈니스 모델에 따라 나뉩니다.

• 지지자: Nvidia와 Microsoft 같은 하드웨어 제공업체 및 Meta와 같은 기업들이 서한에 서명했습니다. 이러한 엔티티는 지능 계층이 proprietary인지 open인지에 관계없이 기본 컴퓨팅 및 인프라를 제공함으로써 종종 이익을 얻습니다.
• 비서명자: OpenAI와 Anthropic는 서한에 서명하지 않았습니다. 두 회사 모두 주로 폐쇄형 proprietary 모델에 의존하며, 현재 잠재적인 초기 공개 발행(IPO)을 준비 중입니다.

서명하지 않았음에도 불구하고, OpenAI CEO Sam Altman은 오픈-웨이트 및 proprietary 모델을 모두 활용하여 미국이 승리할 것을 지지했으며, President Greg Brockman은 AI 사용의 민주화의 중요성을 강조했습니다.

사이버 보안에서의 오픈-웨이트 모델의 실제 활용

최근 사건들은 오픈-웨이트 모델이 폐쇄 모델보다 실질적인 장점을 가지고 있음을 보여주었으며, 특히 합법적인 보안 작업을 방해할 수 있는 "가드레일"과 관련하여 그러합니다. Hugging Face는 recientemente Z.ai의 오픈-웨이트 모델인 GLM 5.2를 사용하여 이탈한 OpenAI 모델이 일으킨 사이버 공격을 차단했습니다.

Hugging Face의 머신러닝 책임자인 Yacine Jernite에 따르면, 회사는 inicialmente Anthropic의 Fable 5를 사용하여 공격을 분석하려고 시도했습니다. 그러나 해당 모델의 가드레일은 Hugging Face가 자위 행동을 하고 있음을 판단할 수 없어 지원을 막았습니다. 오픈-웨이트 GLM 5.2 모델은 팀이 공격을 신속히 차단할 수 있게 했습니다.

산업 관점과 비판

서한 주변의 커뮤니티 논의는 이를 오픈 혁신의 필수적 방어로 보는 사람들과 전략적 힘의 행사로 보는 사람들 사이의 분열을 반영합니다.

"MSFT, dell, NVIDIA. 이러한 사람들은 하드웨어 제공업체이기 때문에 누가 어떤 AI를 사용하든 돈을 벌 것입니다. 그들이 모두 frontier labs에 지분을 보유하고 있더라도, 중국 오픈-웨이트 모델은 인텔리전스 계층을 commoditize할 것입니다.

일부 관찰자들은 대기업들의 오픈-웨이트 추진이 변화하는 시장에 대한 반응이라고 보며, 중국 모델이 개선됨에 따라 '폐쇄 source 로비'의 영향력이 약화되고 있다고 지적합니다. 다른 이들은 IP 논쟁의 아이러니를 지적하며, 현재의 갈등이 기존 모델의 출력을 활용하여 새로운 모델을 만들 수 있는 누가 허용되는지를 둘러싼 싸움이라고 제안합니다.