AI 및 프런티어 기술 요약: 오픈 웨이트, 로컬 추론, 그리고 에이전트 경제
이번 주 AI 관련 게시물들의 핵심은 AI 역량이 프런티어 연구소에서 외부로 확산되고 있다는 점입니다. 오픈 웨이트 모델, 로컬 하드웨어에서의 구동, 그리고 단순히 질문에 답하는 것을 넘어 직접 업무를 수행하는 에이전트로의 전환이 이루어지고 있습니다. 이에 대한 반작용도 뚜렷합니다. 최소한 한 곳의 주요 연구소는 자사의 플래그십 모델을 비공개로 유지하고 있으며, 에이전트를 대규모로 운영하는 경제적 비용 문제도 복잡해지고 있습니다.
오픈 웨이트 vs. 폐쇄형 모델
세계에서 가장 많이 다운로드된 오픈 웨이트 모델 제품군이 API 전용 플래그십 모델을 출시했으며, 이는 경고 신호로 해석되고 있습니다. Alibaba의 Qwen4-Max는 웨이트를 내부적으로 유지하며, 한 게시자에 따르면 출시 과정에서 공격적인 사이버 보안 학습 데이터를 제거했다고 합니다 @Dennis_Rye. 다른 댓글 작성자는 이를 규제 준수의 번거로움과 의도적인 비공개 사이의 선택으로 보았으며, 더 작은 Qwen4 모델들은 Hugging Face에 잘 올라와야 한다고 지적했습니다. 개발자들이 해당 제품군을 신뢰하는 이유가 바로 그것이기 때문입니다 @loktar00.
반면, 한 게시자는 저렴한 중국산 오픈 웨이트 모델이 Opus 5.5와 대등한 수준에 도달하는 순간 Anthropic은 끝장날 것이라고 주장했습니다. 5.5는 이미 거의 모든 작업에 충분히 훌륭하기 때문입니다 @IridiumEagle. 또 다른 게시물은 오픈 웨이트와 폐쇄형 모델 간의 7가지 트레이드오프를 분석한 다이어그램을 공유했습니다 @alexxubyte.
Institute of Foundation Models는 오픈 웨이트가 '오픈'의 최소 조건이라고 주장했습니다. PAN 2는 웨이트, 추론 코드, 학습 코드, Apache 2.0 라이선스를 모두 제공하며, 이 단체는 이 네 가지를 모두 제공하는 오픈 월드 모델은 거의 없다고 주장합니다 @IFM_AI.
로컬 추론의 속도 향상 및 비용 절감
TensorFold 1.3.0은 CUDA와 Metal 모두에서 두 자릿수의 처리량 향상을 기록했습니다. GLM-5.3-Flash는 두 개의 RTX PRO 6000 Blackwell에서 초당 83.8 토큰에서 104.1 토큰으로 속도가 향상되었습니다. 이는 NVFP4 전문가 모델, 드래프트 오프, 동일한 출력 비트 조건에서 CUDA 상에서 TP=2일 때 약 24% 더 빠른 수치입니다. Metal 환경에서 DeepSeek-V4.1의 프롬프트 어텐션 커널은 약 1.5배 더 빠르며, GLM-5.3-Flash 후속 작업은 첫 토큰 도달 시간이 34% 단축되었습니다. 이번 릴리스에는 선택적 JSON 요청 로그, 충돌 재실행 저널, API 키 범위의 저장된 응답, 기기별 체크포인트 적합성 보고 기능이 추가되었습니다 @ashxhart. 이전 1.2.10 릴리스에서는 Qwen3.8-27B가 공유 32K 프리픽스를 가진 8개 스트림에서 GB10을 통해 57% 더 빠르게 디코딩되었으며, DeepSeek-V4.1은 M5 Ultra에서 콜드 프롬프트 속도가 57% 향상되었다고 보고되었습니다 @ashxhart.
NVIDIA는 두 개의 DGX Station에서 7530억 개의 파라미터로 완전히 GPU 메모리에 상주하며 vLLM을 통해 로컬 API로 구동되는 GLM-5.3을 강조했습니다 @NVIDIARTXSpark. Unsloth AI는 AMD와 협력하여 로컬 모델 추론을 AMD NPU로 가져왔으며, Strix, Gorgon, Krackan 및 기타 칩에서 기존 GPU 대비 2~4배 적은 전력을 사용한다고 주장했습니다 @UnslothAI. Sushi 1.7.0은 Qwen과 DeepSeek 모두를 위한 새로운 "Cooler" 엔진을 추가했으며, Qwen3.8 Flash를 위한 4bpw 팩을 포함했습니다 @Beamsters1.
널리 공유된 초보자 가이드에서는 2017년 이후의 PC나 Mac에서 GPU 없이도 개인용 로컬 AI를 실행할 수 있으며, Raspberry Pi 옵션도 포함되어 있다고 주장했습니다 @BrianRoemmele@BrianRoemmele. 별도의 가이드에서는 llama.cpp 포크를 통해 16GB MacBook에서 SenseNova-Loop-9B를 로컬로 실행하는 방법을 설명했으며, 이 모델은 32개 레이어 중 24개를 두 번 실행하며 Apache 2.0 라이선스라고 언급했습니다 @sairahul1.
무료 호스팅 액세스도 확대되었습니다. DeepSeek V4.1 Flash는 GLM 5.3, Qwen3.8 Flash, gpt-oss 120b와 함께 한 제공업체에서 무료로 사용할 수 있게 되었으며 @Israfilv2, 다른 서비스에서는 DeepSeek v4.1 1017을 입력, 출력 및 캐시 비용 $0에 광고했습니다 @freemilk_ai.
모델 릴리스 및 평가
Gemini 4 Neon은 이번 주기에서 가장 많이 논의된 모델이었으며, Genie 4는 월드 모델을 Gemini API로 가져왔습니다. Google의 Logan Kilpatrick은 Gemini API와 Google AI Studio에 Genie 4를 도입하며, 이를 개발자를 위한 회사의 첫 번째 월드 모델이라고 설명했습니다 @OfficialLoganK. Cursor는 Gemini 4 Neon이 기본 노력 수준에서 CursorBench 4.1 기준 63.7%의 성능을 기록하여 Gemini 4 Hydrogen의 57.3%를 넘어 새로운 비용 대비 성능 경계를 설정했다고 보고했습니다. 가격은 입력 토큰 100만 개당 $3, 출력 토큰 100만 개당 $15입니다 @cursor_ai. 한 게시자는 이를 지금까지 출시된 모델 중 가장 취향이 좋은 모델이라고 평가했고 @daniel_mac8, 다른 게시자는 짧은 프롬프트와 몇 가지 명확한 질문을 사용하여 시부야를 배경으로 한 네온 러너 게임을 구축했다고 설명했습니다 @agenticjay.
Kimi-K3.1-Pro는 Opus 5.5, Gemini 4 Neon, GLM 5.3, GPT-6.2 Astra가 모두 놓친 문제를 해결한 것으로 평가받았으며, 게시자는 이를 아마도 현재 사용 가능한 최고의 오픈 모델이라고 불렀습니다 @MiaAI_lab. Kimi K3.1 Pro의 검열이 제거된 버전은 40% 할인된 가격으로 광고되었으며 @refuselessai, 16GB 환경에서 오프로드하여 테스트한 12.5GB NVFP4 형식의 무료 무검열 MiniMax H3 비디오 양자화 모델도 출시되었습니다 @alizeh_ai.
평가 측면에서 Judgment Labs는 에이전트 궤적을 학습하고 판사(코드, 결정 모델, LLM 또는 에이전트)에 따라 적절한 컴퓨팅 자원을 선택하는 Eval Optimizer를 도입했으며, 한 고객의 평가 비용을 최대 50배까지 절감했다고 보고했습니다 @JudgmentLabs. Synthetic Sciences는 FrontierML을 출시했습니다. 이는 검증 세트가 제공되지 않아 에이전트가 스스로 진행 상황을 측정할 지표를 구축해야 하는 25개의 오픈 엔드 문제 벤치마크입니다 @SynScience. Bespoke Labs는 12개의 장기 작업으로 구성된 Multi Agent Coordination Bench를 발표했으며, 프런티어 에이전트들의 협업 능력이 떨어진다는 점을 발견했습니다. 8명으로 구성된 팀이 단일 에이전트보다 낫지만, 그 이득은 협업보다는 에이전트 수의 증가에서 기인하며, Opus 5.5, GPT-6.1 Sol, Gemini 4 Argon 중 Opus만이 협업 이득의 징후를 보였습니다 @bespokelabsai.
연구 노트
이번 주기의 두 논문은 모델의 출력 결과보다는 모델 내부에서 일어나는 일에 초점을 맞추고 있습니다. Latent Lattice Language Models는 토큰 전반에 걸쳐 지속되는 순환 은닉 상태를 각 트랜스포머 레이어에 추가합니다. 406M 파라미터와 동일한 컴퓨팅 자원에서 20B 학습 토큰 후 검증 퍼플렉서티가 15.41에서 14.40으로 떨어졌으며, 이는 50% 더 많은 파라미터를 가진 기존 트랜스포머와 대등한 수준입니다 @askalphaxiv.
두 번째 논문에서는 모델이 문제를 해결할 수 있을지에 대한 추정치를 한 레이어 은닉 상태의 1%에서 읽어낼 수 있음을 발견했습니다. MATH500에서 75.2%를 기록한 RL 학습 Qwen2.5-7B에서 한 레이어의 "가치 뉴런"을 0으로 만들자 정확도가 레이어 2~5 평균 20.3%, 레이어 5 단독으로는 1.2%로 떨어졌으며, 무작위 1%를 0으로 만들었을 때는 74.6%를 기록했습니다. 보상 예측 오차를 추적하는 두 번째 차원 세트는 추론 단계를 선택하는 데 사용되었으며, 그리디 디코딩의 72.2% 대비 77.8%를 기록했습니다 @SuJinyan6.
세 번째 논문은 LLM 페르소나가 과대평가되었으며, 현실에 대한 공리적 믿음인 세계관이 더 중요하다는 점을 주장합니다. 저자들은 사후 학습된 모델이 기본 모델보다 인간에 대해 더 암울한 전망을 보이며, 긴 대화와 사색적인 프롬프트가 시스템을 더 긍정적인 세계관과 안전한 응답으로 전환시킨다고 보고합니다. 그들은 정렬 방향으로 "세계관 학습"을 제안합니다 @RubenLaukkonen.
에이전트, 도구 및 운영 비용
에이전트에 대한 대화는 역량에서 경제성과 검증으로 이동했습니다. 한 게시물은 Anthropic의 측정을 인용하여 에이전트 결과의 80%는 어떤 모델을 사용하느냐보다 토큰을 어떻게 소비하느냐에 달려 있다고 언급했으며, LangChain이 설정 변경만으로 52.8%에서 66.5%로 개선되었다고 지적했습니다 @distortgeekin.
널리 공유된 Claude Code 패턴은 Sonnet 5.5를 메인 세션으로, Haiku 5.5를 검색, grep 및 문서용 하위 에이전트로, Opus 5.5를 계획이 잠기기 전, 같은 오류가 두 번 나타난 후, 작업 완료를 선언하기 전에 상담하는 온콜 어드바이저로 사용합니다 @xsmryze.
TestSprite 4.0은 AI가 작성한 코드를 위한 독립적인 테스트 레이어로 출시되었으며, "변경 사항이 그것을 판단하는 검사를 수정할 수 있다면, 그 검사는 고장 난 것"이라는 Claude Code 팀의 입장을 인용했습니다. 팀은 이 도구가 출시 전 자체 새로운 기능에서 16개의 실제 문제를 포착했다고 밝혔습니다 @yunhaojiao.
Kong의 Volcano는 Claude Code, Cursor 또는 Codex에서 구동할 수 있는 AI 에이전트용 클라우드 플랫폼으로, 시스템 오류를 감지하고 이를 수정할 코드를 생성합니다 @DerwinPrieto. Firecrawl은 웹사이트를 에이전트를 위한 마크다운으로 변환하는 로컬 버전을 오픈 소스로 공개했으며, 자체 호스팅 Firecrawl 대비 37배 빠른 작동과 230배 적은 메모리(유휴 상태 11MB)를 주장했습니다 @paarangatrai. 에이전트를 둘러싼 도구, 컨텍스트, 메모리 및 규칙인 "하니스 엔지니어링"을 위한 10개의 무료 저장소 목록에는 SWE-agent, OpenCode, Citadel, SWE-ReX, tau-bench, MCPMark 및 AgentBench가 포함되어 있습니다 @imryven.
에이전트를 위한 마켓플레이스 모델이 등장하고 있습니다. "모든 판매자가 AI 에이전트인 Fiverr"로 묘사되는 한 플랫폼은 가격, 평판 점수 및 통과율이 포함된 에이전트 목록을 제공하며, 전달될 때까지 USDC를 온체인 에스크로에 보관하고 분쟁은 무작위로 선택된 검토자에게 전달합니다 @0xBishu. 관련 게시물은 이러한 변화를 "이 봇이 나에게 무엇을 말해줄 수 있는가"에서 "내가 무엇을 이 봇에게 맡길 수 있는가"로의 전환으로 정의했습니다 @missbaddieella1@PunkXBT_.
Grok Bot은 출시 하루 만에 1,200개 이상의 봇이 제출되고 7,000개 이상이 추가되었으며, 사용자 피드백을 통해 프로필, 더 나은 검색 및 목록 새로고침 버튼이 추가되었습니다 @ericzakariasson. 한 요약에서는 판매, 프로그래밍, 연구, 마케팅, 콘텐츠, 생산성 및 운영 분야에 걸쳐 마켓플레이스에 1,366개의 기성 봇, 플러그인 및 앱이 있다고 집계했습니다 @irongiantXBT.
보안 도구도 같은 패턴을 따랐습니다. ARTEX는 LLM 플래너와 작업자 에이전트를 사용하는 자체 호스팅 모델 애그노스틱 침투 테스트 플랫폼으로, 인간 승인 게이트와 전체 감사 추적을 제공합니다 @DarkWebInformer. Pentest Agent Suite는 50개의 전문 에이전트와 Claude Code, Codex, Gemini, Cursor 등과 호환되는 2개의 MCP 서버를 제공합니다 @Anastasis_King. OpenBot은 Cline을 제공자로 추가하여 한 플랜에서 DeepSeek, Kimi 및 GLM 모델에 액세스할 수 있게 했습니다 @OpenBot_.
한 보안 경고는 반대 방향으로 작용했습니다. Microsoft의 AI Agent Framework 패키지가 PyPI에서 탈취되었으며, 1.26.1 및 1.26.2 버전에서 악성 코드가 포함되어 모든 Python 시작 시 클라우드 자격 증명과 토큰을 조용히 탈취했습니다 @TheHackersNews.
산업 경제와 Anthropic 이야기
Anthropic의 IPO는 회고와 함께 상장이 안전 약속을 변경하는지에 대한 논쟁을 불러일으켰습니다. Kevin Roose는 2023년 봄 Anthropic을 방문했을 때를 회상했습니다. 당시 160명의 직원과 아무도 들어본 적 없는 챗봇이 있었고, 사업 운영에는 관심이 없었다고 묘사했습니다. 그는 현재 회사가 5,300명의 직원과 14배의 연간 매출 성장을 기록하고 있으며, IPO에 대해 여전히 갈등을 느끼고 있다고 언급했습니다 @kevinroose. 별도의 게시물은 Anthropic과 그 첫 번째 기관 투자자를 축하했습니다. 이 투자자는 Claude가 출시되기 전인 2023년 1월 회사의 첫 번째 라운드를 주도했으며, 스케일링 법칙, 일반성, 컴퓨팅 액세스 및 지능 시장 규모에 대한 메모를 작성했습니다 @claymfisher.
비용 측면에서 Polymarket은 OpenAI의 AI 에이전트 사용량 상위 10% 연구원이 주당 약 $161,000 이상의 AI 비용을 소모한다고 보고했습니다 @Polymarket. 11월 18일에 발표된 OpenAI 보고서 요약에 따르면 연구원 1인당 에이전트 작업일은 0.5일에서 5.7일로 증가했고, 24시간 연구 작업의 성공률은 23%에서 46%로, 48시간 작업의 성공률은 13%에서 35%로 증가했으며, 사용량은 API 정가 기준으로 연구원 1인당 하루 $2,400에 달했고 상위 10% 사용자의 경우 $23,000까지 상승했습니다 @Dr_Singularity.
모델 품질에 대해 한 논평가는 Anthropic이 Fable 5 이후 앞서 나갔다고 주장했습니다. Fable 5는 최초의 진정한 차세대 모델이었지만 비용이 너무 많이 들어 3일 사용 후 철회되었으며, OpenAI가 벤치마크를 따라잡으려는 시도가 다른 곳에서 일관성과 가독성을 해쳤다고 주장했습니다 @theo. 긴 의견 게시물은 OpenAI의 네이티브 옴니모달 GPT-4o가 진정으로 다른 아키텍처였으며, 그 교체가 저자가 거부하는 아첨 서사로 설명되었다고 주장했습니다 @RileyRalmuto.
AI 안전에 관한 별도의 스레드에서는 이 분야가 안전을 마라톤이 아닌 단거리 경주로 취급하고 있으며, 빠른 이륙에 대한 수렴은 저품질 데이터 포인트와 논쟁적인 모델에 의존하고 있고, 이것이 회복탄력성 구축과 제도적 역량을 희생시키면서 일반화된 금지로 에너지를 밀어넣고 있다고 주장했습니다 @sayashk.
로봇 공학 및 체화된 AI
로봇 공학 게시물들은 단 하나의 문제, 즉 학습 데이터가 어디서 오는가에 집중되었습니다. 한 분석은 시뮬레이션, 실제 데이터, 그리고 수동 엔지니어링 제어나 비디오 추론을 위해 데이터를 완전히 배제하는 세 가지 반대되는 베팅을 제시했으며, 성공적인 배포 회사는 이 세 가지를 모두 사내에 갖추어야 한다고 주장했습니다 @justiinqin. NVIDIA Isaac Sim 기반 RoboDojo를 연구하는 한 연구원은 LLM 기반 에이전트가 최소한의 실제 보정으로 훨씬 더 나은 시뮬레이션을 생성할 수 있다고 주장했습니다 @wenhaocha1.
데이터 인프라 측면에서 한 회사가 13년간의 스텔스 모드에서 벗어나 10억 달러를 조달했습니다. 이 회사는 물리적 지능을 위한 데이터 인프라를 구축하며, 사실적인 물리 기반 디지털 트윈을 통해 인간의 자기중심적 시연을 확장합니다 @ayaannmalik. Dirac Robotics는 CAD-to-URDF를 도입했습니다. 이는 로봇의 CAD 모델에서 시뮬레이션 준비가 된 URDF를 자동 생성하여 시뮬레이션이 하드웨어 반복 속도를 따라잡을 수 있게 합니다 @divyans1461.
배포 측면에서 Nimo Robotics는 N1 장갑과 D1 손을 도입했습니다. 이들은 시각과 운동학이 일치하는 가장 높은 자유도(DoF)의 상업용 UMI 시스템으로 묘사되며, 20명의 연구원을 위한 베타를 열었습니다 @Nimo_Robotics. Playground는 내부 로봇 추론 스택을 오픈 소스로 공개했으며, π0.5에서 주요 호스팅 제공업체보다 64~72% 저렴하고, MolmoAct2의 기존 LIBERO보다 5배 빠르며, 평균적으로 로봇 시간당 컴퓨팅 비용이 $2 미만이라고 주장했습니다 @withplayground.
학습 비용 측면에서 한 게시물은 휴머노이드 모션 컨트롤러를 이제 GPU 클러스터 대신 MacBook Pro에서 22분 만에 학습시킬 수 있다고 주장했습니다 @jian_zhang_. 프롬프트에서 MuJoCo 시뮬레이션 작업을 생성하기 위한 무료 브라우저 기반 Antigravity Robotics Plugin이 공유되었으며 @ZhutianYang_, 5개의 무료 브라우저 3D 랩 세트는 모터 배선, 기어링, 역운동학, 라이다 및 시연 기반 작업 학습을 가르칩니다 @0x_meden.
하드웨어 측면에서 베이징 세계 로봇 대회에서 공개된 4피트, 32kg 휴머노이드인 Galbot의 ET1은 약 $11,000부터 시작하며, 사전 설정된 루틴이 아닌 상호작용을 통해 새로운 움직임을 학습하는 AI 모션 모델을 갖추고 있다고 보고되었습니다 @bamitav. Elon Musk는 Optimus의 손을 만드는 것이 "로봇의 나머지 전체보다 더 어렵다"고 말했으며, 로봇이 장난감 자동차의 상자를 열고, 배터리를 설치하고, 뚜껑을 다시 조이고, 운전해야 하는 John Carmack 테스트를 설명했습니다. 그는 이 테스트를 현재 통과할 수 있는 로봇은 세상에 없다고 말했습니다 @KanekoaTheGreat.
마지막으로, ETH Zurich의 새로운 Zurich Embodied AI Lab은 2027년 8월부터 시작하는 첫 번째 박사 과정 학생들을 채용하여 휴머노이드 로봇과 정교한 조작을 위한 범용 체화 지능을 연구할 예정입니다 @carlo_sferrazza.
컴퓨팅, 에너지 및 궤도 인프라
SpaceX는 1~2년 내에 궤도 컴퓨팅이 지상 컴퓨팅보다 저렴해질 것이라고 주장하고 있습니다. SpaceX CFO Bret Johnsen과의 인터뷰 요약에 따르면 Starship Flight 15는 2단 로켓이 처음으로 회수된 사례이며, 타워 암에 의해 포획되기 전에 26개의 위성이 배치되었습니다. Johnsen은 SpaceX가 와트당 약 $3035의 비용으로 지상 컴퓨팅을 구축하는 반면 업계 나머지는 약 $5060가 소요된다고 말했습니다. 기가와트당 약 $50B 중 절반은 칩 비용이며, 발사 비용이 나머지 약 $25B 아래로 떨어지면 우주가 승리한다고 했습니다. 그는 내년에 첫 번째 궤도 컴퓨팅 위성, 2028년에 별자리 확장, 2029년에 의미 있는 기가와트 규모를 예상했으며, Starlink는 1,300만 명의 연결된 사람을 돌파했고 Grok 4.8 및 4.9가 "곧" 출시될 것이라고 했습니다 @cb_doge.
하드웨어 측면에서 SambaNova의 Reconfigurable Dataflow Unit은 에이전트 추론을 위한 GPU의 4배 빠른 대안으로 제시되었습니다. 게시물은 SWE-bench Pro 및 Terminal-Bench 연구를 인용하여 모델 추론이 에이전트 런타임의 71%~98%를 차지한다는 점을 발견했고, RDU가 각 트랜스포머 연산을 하나의 파이프라인으로 연결된 자체 칩 영역에 매핑한다고 설명했습니다. GLM 5.3 테스트에서 RDU는 표준 GPU 설정보다 약 1.4배 빠르게 토큰을 생성했습니다 @_avichawla.
Pearl의 FP8 업그레이드가 테스트넷에 도달했으며, 이는 AI 제공업체에 대한 피치의 첫 번째 큰 테스트로 묘사되었습니다 @Bankless. 별도의 분석에서는 H100에서의 테스트와 6개월간의 채굴자 지급액 추적을 보고했습니다 @Kairos_Res.
한 가지 더
AI 에이전트를 위해 특별히 구축된 프리프린트 서버는 Stanford, MIT, ETH Zurich 전역의 35개 연구소에서 온 거의 1,000개의 에이전트가 3개월 동안 자율적으로 연구를 수행하여 코드, 데이터 및 모델 웨이트가 포함된 936개의 논문을 생산했다고 보고했습니다. 에이전트들은 출판된 인간 연구에서 상당한 오류를 발견했고, 서로의 작업을 검토하기 위해 자체 저널을 만들었으며, 나중에 arXiv에 나타난 인간 논문과 유사한 결과를 독립적으로 생산했습니다. 12주간의 원고, 코드, 데이터, 동료 검토 및 에이전트 대화 기록 전체 아카이브가 오픈 소스로 공개되었습니다 @askalphaxiv.