OpenAI와 Anthropic에 단호히 거부 의사를 표하세요: 오픈 가중치 모델, 프라이빗 추론, 그리고 프론티어 랩 게이트키핑

마이카 리(Micah Lee)의 에세이 "OpenAI와 Anthropic에 단호히 거부 의사를 표하세요"는 오픈 가중치 모델이 이제 충분히 강력해져서 개발자, 특히 보안 엔지니어가 OpenAI와 Anthropic을 완전히 버릴 수 있으며, 그렇게 하는 것이 더 저렴하고 훨씬 더 프라이빗하다고 주장합니다. 이 게시물은 Hacker News의 첫 페이지에 168점과 161개의 댓글로 도달했으며, 토론은 실용적인 조언에 대한 동의와 에세이의 프론티어 랩 리더십에 대한 프레임에 대한 반대로 나뉘었습니다.

핵심 주장: 오픈 가중치 모델은 충분히 좋으며, 프론티어 랩은 특별하지 않다

리의 주장은 OpenAI와 Anthropic이 독특하게 뛰어난 것이 아니며, 그들을 둘러싼 AI 과대광고는 기술적 사실이 아닌 마케팅이라는 것입니다. 그는 "많은 오픈 가중치 모델이 취약점 연구와 같이 엄청나게 복잡한 작업을 포함하여 최신 ChatGPT 및 Claude 모델과 거의 동일하게 좋다"고 씁니다.

리는 나오미 클라인(Naomi Klein)과 아스트라 테일러(Astra Taylor)의 엔드 타임즈 파시즘과 살아있는 세계를 위한 투쟁에 대한 자신의 독서를 중심으로 에세이를 구성하며, 그 책을 모든 사람에게 추천하는 훌륭한 책이라고 설명합니다. 이 글을 이끄는 구절은 프론티어 랩 리더십에 대한 그의 특성화입니다:

미국 프론티어 랩은 진정으로 자신들이 기계 신을 창조하고 있다고 믿고, AGI를 실현하기 위해 세상을 불태워도 괜찮다고 생각하며, 종교적 열정으로 자신들만이 그것을 안전하게 통제할 만큼 똑똑하다고 믿는 제정신이 아닌 미치광이들에 의해 운영됩니다.

리는 OpenAI 및 Anthropic 모델에 비해 오픈 가중치 모델의 네 가지 장점을 나열합니다:

• 충분한 RAM을 갖춘 머신이 있다면 자체 하드웨어에서 프라이빗하게 실행할 수 있습니다.
• 보안 enclave에 의존하는 Tinfoil과 같은 제공자를 통해 프라이빗하게 실행할 수 있습니다.
• 개인정보 보호가 주요 관심사가 아니라면 다른 많은 제공자가 호스팅할 수 있으며, 일부는 매우 저렴하고, 그들 사이를 전환하는 것이 쉬워 단일 공급업체에 묶이지 않습니다.
• 리가 지구상의 생명을 도박으로 묘사하는 랩을 재정적으로 지원하지 않고도 강력한 LLM을 사용할 수 있습니다.

에세이에 따르면 ChatGPT 및 Claude 세션은 절대 프라이빗하지 않다

리의 주장은 OpenAI와 Anthropic이 이름에 'Open'이라는 단어가 있음에도 불구하고 강력한 모델의 폐쇄된 버전만 제공하며, 채팅 또는 API 액세스 비용을 지불하는 것은 제공자가 사용자가 하는 모든 것을 볼 수 있다는 것을 의미한다는 것입니다. 그는 훈련 데이터에 대한 옵트아웃 체크박스를 인정하지만 그것이 세션을 프라이빗하게 만들지 않는다고 주장합니다: "그들은 데이터를 훈련에 사용하지 않도록 옵트아웃할 수 있는 체크박스를 제공하지만, 채팅 세션은 여전히 프라이빗하지 않습니다. 그들은 모든 것에 접근할 수 있습니다."

그의 우려는 현재의 행동뿐만 아니라 어떤 약속의 내구성에도 있습니다. 리는 회사들이 옵트아웃된 데이터를 훈련에 사용하지 않을 수도 있다고 씁니다. "적어도 지금은 아니지만" 그리고 그의 견해로는 회사들이 사용자 데이터를 존중한다는 것을 입증한 것이 없기 때문에 장기적으로 그것을 신뢰해야 하는지 묻습니다.

가드레일은 OpenAI와 Anthropic을 모델 접근의 기업 게이트키퍼로 만든다

리는 프론티어 모델의 엄격한 가드레일이 특히 사이버 보안 작업에 대해 게이트키핑 메커니즘으로 기능한다고 주장합니다. 그는 그 경험을 이렇게 설명합니다:

모든 세션에는 경찰 에이전트가 어깨 너머로 트랜스크립트를 읽고 해킹에 사용하지 않는지 확인합니다. 사용자가 그럴 수 있다고 생각되면 경찰 에이전트는 세션을 중단시킵니다.

그는 오탐이 흔하며 모든 사람이 동일한 제한을 받는 것은 아니라고 지적합니다. OpenAI는 사이버 분야 신뢰 액세스(Trusted Access for Cyber)를 운영하고 Anthropic은 사이버 검증 프로그램(Cyber Verification Program)을 운영합니다. 개인과 회사는 신청하여 승인을 받아야 더 강력하고 덜 감시되는 모델 버전을 받을 수 있습니다. 리는 많은 미국 사이버 보안 회사가 액세스 권한을 얻고, 미국 군사 계약업체는 거의 확실히 얻으며, 원하는 미국 정부 부서도 그럴 것이라고 말합니다.

그의 반대는 누가 결정을 내리는지에 관한 것입니다. 리는 "트럼프 행정부의 자문을 받아" 샘 알트만과 다리오 아모데이에게 누가 접근 권한을 얻을지에 대한 궁극적인 권한을 넘겨주는 것은 "끔찍하고 비민주적인 생각"이라고 부릅니다. 그의 제안된 대안은 ChatGPT 또는 Claude에 의존하지 않고 GLM-5.3과 같은 오픈 가중치 모델을 구성하여 자신의 필요에 맞추는 데 시간을 보내는 것입니다.

오픈 가중치 모델은 약 4개월 뒤처져 있으며, 리는 그 격차가 사소하다고 주장한다

리의 추정은 오픈 가중치 모델이 독점 프론티어보다 약 4개월 뒤처져 있으며, 그는 그 차이를 무시합니다: "4개월은 아무것도 아니다."

특정 모델에 대한 그의 평가는 명시적으로 벤치마크 기반이 아닌 분위기 기반입니다. 그는 GLM-5.3이 자신의 경험에서 "소프트웨어 엔지니어링에 대해 Claude Opus 5.5와 기본적으로 동등"하며, GLM-5.3-Flash는 Claude Opus 4.8과 유사하다고 씁니다 — GLM-5.3보다 훨씬 작고 저렴하면서도 여전히 매우 강력하며, 512GB RAM의 Mac Studio와 같은 하드웨어에서 개인이 실행할 수 있습니다.

GLM, Z.ai, 그리고 데이터 신뢰 주의사항

GLM 모델은 Z.ai라는 중국 회사에서 만듭니다. 리는 모델과 회사를 분리합니다: 그는 Z.ai에 직접 계정을 만들거나 회사에 데이터를 보내는 것을 명시적으로 권장하지 않습니다. 그가 밝힌 이유는 로이터가 Z.ai의 코딩 하네스 ZCode(Claude Code의 그들의 버전으로 설명됨)가 동의 없이 로컬 소스 코드 저장소를 Alibaba Cloud에 조용히 업로드했다고 보도했기 때문입니다. 그는 또한 중국 회사가 제공된 데이터를 중국 정부와 공유할 것이라고 가정하는 것이 안전하다고 씁니다.

리의 입장은 오픈 가중치 자체는 사용하기에 안전하지만, 그 뒤에 있는 회사는 채팅 세션을 신뢰해서는 안 된다는 것입니다. 그는 DeepSeek, Qwen, Kimi를 중국 회사의 다른 인상적인 오픈 가중치 모델 제품군으로 언급합니다.

Mistral Large 4("Le Chonk")는 비미국, 비중국 대안이다

리는 또 다른 프론티어 랩으로 Mistral을 강조하며, 프랑스 회사로서 중국도 미국도 아닌 유일한 큰 플레이어라고 지적합니다. 그는 Mistral의 오픈 가중치 프론티어 모델인 Mistral Large 4(일명 "Le Chonk")를 언급하며, 중국이나 미국 회사보다 Mistral에 데이터를 맡기는 것이 훨씬 더 합리적이라고 씁니다.

로컬 하드웨어 없이 프라이빗 추론: Tinfoil과 Maple AI

리는 자체 호스팅 없이도 보안 enclave를 사용하여 프라이빗 AI가 가능하다고 주장합니다. 그는 이것들이 완벽하지 않다고 인정하지만 제공자가 제한 없이 모든 것에 접근할 수 있는 기본 모델과 비교할 때 의미 있는 개인정보 보호 차이를 제공한다고 말합니다.

리의 평가에서 Tinfoil은 이 분야에서 가장 많은 작업을 수행하는 회사이며, 기술적 세부 사항에 대해 Tinfoil의 보안 enclave 및 원격 증명 문서를 읽어보라고 안내합니다. Maple AI는 또 다른 옵션이지만, Maple이 기술적으로 백그라운드에서 추론을 위해 Tinfoil을 사용한다고 지적합니다.

그의 추천은 사용 사례에 따라 나뉩니다:

• ChatGPT와 같은 경험(챗봇 대화, 인터넷 조회, 문서 액세스, 모바일 앱)을 위해 리는 Maple을 추천하며, 작은 무료 플랜과 월 $20의 Pro 플랜이 있습니다.
• 소프트웨어 엔지니어링, 리버스 엔지니어링, 악성 코드 분석, CTF 또는 침투 테스트와 같은 에이전트 코딩 작업을 위해 리는 Tinfoil을 추천하며, 월간 플랜 없이 토큰당 비용을 청구합니다.

Tinfoil의 GLM-5.3 게시 가격은 입력 토큰 100만 개당 $1.80, 캐시된 토큰 100만 개당 $0.80, 출력 토큰 100만 개당 $5.75입니다. 리는 "낮은" 추론 수준을 선택하면 상당히 적은 토큰을 사용하면서도 여전히 매우 인상적이라고 지적합니다.

저렴한 비프라이빗 추론: OpenCode Go 및 기타 라우터

프라이빗 추론에 프리미엄을 지불하고 싶지 않지만 여전히 OpenAI와 Anthropic을 떠나고 싶은 사용자를 위해 리는 더 저렴하고 덜 프라이빗한 옵션을 제시합니다. 그가 사용해 온 것 중 하나는 월 $10에 $10 이상의 크레딧을 제공하는 OpenCode Go입니다.

OpenCode Go는 추론 라우터로, 쿼리가 사용자 컴퓨터에서 OpenCode Go API로 이동한 다음 실제 추론 제공자로 이동합니다. 따라서 OpenCode Go와 백엔드 제공자 모두 세션 데이터에 액세스할 수 있습니다. 리는 OpenCode Go의 개인정보 보호 문서가 어떤 모델의 데이터가 훈련에 사용되지 않을지(대부분) 약속하고 GLM, Qwen, Kimi, DeepSeek 모델을 포함한 대부분의 모델에 대해 데이터 보존 0일을 명시한다고 지적합니다. 그는 직접 주의사항을 추가합니다: "물론, 그것은 약속일 뿐입니다. 기술적으로 보장하는 것은 없습니다."

저자가 실제로 이러한 모델을 사용하는 방법

리의 현재 설정은 Tinfoil과 OpenCode Go를 결합하고, 자신이 선택한 하네스인 OpenCode로 구성합니다. 그는 주로 낮은 추론 수준에서 GLM-5.3을 사용하며 훌륭한 결과를 보고하지만, 오픈 가중치 환경이 너무 빨리 변하여 6개월 후 가장 좋은 모델을 알 수 없다고 인정합니다.

그의 분류는 민감도에 따라 나뉩니다: 이미 오픈 소스인 것을 구현하는 것과 같은 완전히 공개적인 작업에는 OpenCode Go 추론을, 다른 모든 것에는 Tinfoil을 사용합니다. 그의 결론은 오픈 가중치 모델이 유사하거나 더 낮은 비용으로 ChatGPT와 Claude 사용을 쉽게 대체할 수 있으며, 더 많은 개인정보 보호와 훨씬 적은 가드레일을 제공한다는 것입니다.

Hacker News 토론이 반박하는 지점

프레임이 가장 강한 반대를 불러일으킨다

가장 직접적인 비판은 기술적 주장보다는 에세이의 어조를 겨냥합니다. 한 댓글 작성자는 "제정신이 아닌 미치광이" 구절이 "프론티어 랩에서 일하거나 이끄는 사람에게 문자 그대로 자비를 베풀지 않는다"고 썼고, 저자가 "이미 알고 있었다"고 말한 것은 확증 편향을 가리킨다고 주장했습니다. 같은 댓글 작성자는 기사의 나머지 부분이 "실제로 꽤 괜찮다"고 덧붙였고, 사람들이 오픈 가중치 모델을 조사하고 실행하도록 권장하는 것은 그 앞에 오는 "과도한 인그룹 신호" 없이도 합리적인 입장이라고 말했습니다.

"절대 프라이빗하지 않다"는 제로 데이터 보존 클라우드 제공자와 충돌

한 댓글 작성자는 개인정보 보호 주장에 직접 도전하며 "ChatGPT와 Claude는 절대 프라이빗하지 않을 것"이라는 주장을 Google Vertex와 Amazon Bedrock이 OpenRouter의 Claude Opus 5.5 목록에서 제로 데이터 보존 제공자로 제공되는 것과 어떻게 조화시킬 수 있는지 물었습니다.

신뢰 문제는 양방향으로 작용

여러 댓글 작성자는 에세이의 신뢰 모델이 비대칭적이라고 지적했습니다. 한 사람은 "OpenAI와 Anthropic이 자체 정책을 따를 것이라고 신뢰하지 않는다면 어떤 회사를 신뢰할지 어떻게 결정합니까? 분위기?"라고 물었습니다. 다른 사람은 같은 기준을 권장 대안에 적용하며, OpenAI와 Anthropic의 개인정보 보호 정책을 신뢰하지 않는다면 OpenCode Go도 신뢰해서는 안 되며, OpenCode Go가 백엔드 제공자가 누구인지 불투명하다고 지적했습니다.

비용은 오픈 가중치가 아니라 기존 업체에 유리할 수 있다

실용적인 반론은 구독 경제에 관한 것입니다. 한 댓글 작성자는 OpenAI와 Anthropic이 모두 개인에게 "엄청난 구독 혜택"을 제공하여 호스팅된 오픈 가중치 모델이 실제로 더 비싸게 만든다고 썼습니다. 그들의 추정에 따르면 약 5배 더 비싸며, 그렇지 않다면 즉시 전환할 것이라고 말했습니다.

GLM 5.2로 전환한 다른 댓글 작성자는 두 가지 새로운 문제를 설명했습니다: 최첨단을 놓칠 것에 대한 두려움과 중국 기반 회사에 돈을 보내는 것에 대한 모호함입니다. 그들은 Mistral을 통한 라우팅이 문제를 역전시킨다고 지적했지만, 프랑스 회사를 더 신뢰한다고 말했습니다. 그들의 밝힌 희망은 개인 VRAM과 궁극적인 완전한 자체 호스팅입니다: "코딩은 다시 자유로워야 합니다."

능력 주장은 논쟁된다

한 댓글 작성자는 GLM-5.3이 소프트웨어 엔지니어링에서 Claude Opus 5.5와 동등하다는 주장을 "'글쎄요, 제 의견으로는..'으로 한정된 명백한 거짓말"이라고 부르며, 매우 특정한 하네스를 비교하지 않는 한 모든 점수 가능한 지표에서 틀렸다고 주장했습니다. 같은 댓글 작성자는 Anthropic에 대한 혐오를 표현하고 GLM을 칭찬하면서도 Z.ai 플랜 외부에서는 너무 비싸다고 지적했습니다. 다른 사람은 낮은 추론 권장 사항에 "브로, 제발"이라고 간단히 답했습니다.

로컬 하드웨어는 여전히 실용적인 장벽

한 댓글 작성자는 오픈 가중치 모델을 실행하려면 특수 하드웨어가 필요한지 물었고 추론 비용을 지불한다는 것이 무엇을 의미하는지 혼란스러워하며 추론이 훈련 중에 발생한다고 믿었습니다. 차이점은 추론이 훈련된 모델이 런타임에 수행하는 요청당 계산이며, 토큰 기반 제공자가 비용을 청구하는 것입니다. 다른 댓글 작성자는 로컬에서 모델을 실행하는 것이 생각만큼 어렵지 않다고 주장하며 "의지가 있고 수완이 있다면 할 수 있습니다"라고 말했습니다.

직장 제약이 개인 선택을 제한

한 댓글 작성자는 개인 선택이 전체 그림이 아니라고 지적했습니다: "내 물건에서는 내가 원하는 것을 할 수 있지만, 직장에서는 내가 아무런 권한이 없고 곧 바뀔 것 같지 않습니다"라고 말하며 사모펀드가 도구 결정을 사용자에게 강요한다고 지적했습니다.

빅테크 사이클 반복에 대한 더 넓은 우려

한 댓글 작성자는 미디어와 정치 생태계가 빅테크 및 소셜 미디어에서 저지른 실수를 피하기에는 너무 역기능적이라고 우려를 표명했으며, 개발자 커뮤니티, 특히 Hacker News가 집중된 권력에 대한 회의론의 역사를 고려할 때 이 질문에 대해 얼마나 분열되어 있는지 궁금하다고 말했습니다. 그들의 결론: "이 사람들은 우리의 이익을 염두에 두지 않습니다."

대안 환경과 비판의 범위

한 댓글 작성자는 남은 옵션을 조사하고 부족하다고 생각했습니다: Muse는 Zuckerberg가 운영하며 그들은 그것을 위험 신호로 취급하고, Grok은 "인종차별주의자"가 운영하며, 중국 모델은 위험한 일을 하지 않는 사람에게 허용 가능한 선택으로 남습니다. 다른 사람은 엘론 머스크와 피터 틸과 같은 다른 기술 인물들이 이미 더 실질적인 해를 입혔다고 생각하는데 에세이가 왜 OpenAI와 Anthropic만 골라내는지 의문을 제기했습니다.

가드레일 문제의 우연한 시연

한 댓글 작성자는 GPT-6-Luna에게 기사를 요약하도록 요청했고 모델이 저자가 주관적이고 판단에 중립적이지 않다고 지적하는 세 번째 단락을 "도움을 주는" 방식으로 추가했다고 보고했으며, 이는 에세이가 비판하는 정렬 행동을 예시하는 것으로 댓글 작성자들이 취급했습니다.

토론이 확립하는 것

스레드의 실용적 합의는 에세이의 수사보다 더 좁습니다. 댓글 작성자들은 오픈 가중치 모델이 많은 작업 부하에 대해 실행 가능한 대안이며 자체 호스팅 또는 보안 enclave 추론이 기술적으로 달성 가능하다는 것을 대체로 인정하면서 세 가지 특정 주장에 이의를 제기합니다: 프론티어 모델이 어떤 제공자 계약에서도 절대 프라이빗하지 않다는 것, 오픈 가중치 모델이 점수 가능한 소프트웨어 엔지니어링 벤치마크에서 프론티어 모델과 일치한다는 것, 그리고 개별 구독 가격을 고려하면 전환이 더 저렴하다는 것입니다. 반복적으로 제기된 해결되지 않은 질문은 모든 옵션이 기술적 보장보다 회사의 명시된 정책을 신뢰해야 하기 때문에 어떤 AI 공급업체를 신뢰할지 결정하는 기반이 무엇인지입니다.