AI & フロンティアテックラウンドアップ:オープンウェイト、ローカル推論、エージェントスタック

これらの投稿にわたる最も明確なシグナルは、オープンウェイトとローカル推論がフロンティアラボの出荷よりも速く進歩していることです:145Bパラメータのモデルが単一の24GBコンシューマーGPUで毎秒約98トークンをデコードし、27Bモデルが55.6GBから5.9GBに圧縮され、llama.cppが最初の安定版1.0リリースを出荷したと報告されています。モデルニュースの下では、運用上のストーリーはエージェントです—サンドボックス化、検証、メモリ、タスクごとのコストが実際のエンジニアリング面になりつつあり、モデル選択ではありません。

オープンウェイトはベンチマークされるだけでなく備蓄されている

タイムラインを支配する実用的なアドバイスは、アクセス条件が変わる前に今すぐオープンウェイトをダウンロードすることです。ある投稿者は、Qwen3.8-27B、Qwen3.8 Flash-Next、GLM-5.3-Flash、DeepSeek V4.1 Flash、およびabliterated量子化版を、明示的に「まだ大きなものを実行できなくても」ダウンロードするよう促しました @superalesha。2番目の投稿は、重複する5つのオープンモデルのセットをリストしています @MiaAI_lab。3番目の投稿は、ホストされたToken Labエンドポイントを通じてDeepSeek V4、GLM 5.3、Qwen 3.8、Gemma 4への無料APIアクセスを、カード不要で宣伝しています @k2sbhai。

同じバッチには実際の反論があります。ある投稿者は、モデルを実行するのに1TBのRAMが必要なら「オープンウェイト」は無意味かどうかを直接問いかけています @uzair__afridi—これはダウンロード可能なファイルと使用可能な推論の間のギャップを狙った異議です。ローカルファーストの陣営は、ベンチマークではなく価値観で答えます:オープンウェイト。オープンソース。グローバルなコラボレーション。 @dhh

その議論のツーリング側は、llama.cppがv1.0.0をリリースしたときにマイルストーンを迎えました。これは、その上に構築された何千ものアプリケーションと何百万もの開発者にとって基盤を安定させると説明され、ローカルAI、プライバシー、主権、およびすべてのプラットフォームとモデルタイプをカバーするという明確なコミットメントがあります @julien_c。メンテナーは、AIがたった2社によって制御されない未来のための戦いとしてそれを位置づけました @julien_c。

ローカル推論がコンシューマーハードウェアに到達

このバッチの見出しの主張は、145Bモデルが1つのコンシューマーGPUで許容可能に動作することです。Edge0-145Bは、合計145Bパラメータ、アクティブ10.12B、256Kコンテキスト、レイヤーごとに512エキスパート、ネイティブ4ビットトレーニング、マルチトークン予測投機的デコードを備え、モデルと推論エンジンがコンシューマーGPU向けに共同設計されていると報告されています @TeksEdge。報告されたデコード速度は、NVFP4量子化を使用したRTX 5090 D(24GB)でチャットが毎秒79.6トークン、エージェントワークロードが98.3で、23.25 GiBのVRAMと38.27 GiBのシステムRAMを使用します @TeksEdge。Q3_Kビルドでは、同じ投稿がRTX 5090 Dで毎秒121.2トークンのエージェントデコード、RTX 4090で91.7、Apple M2 Ultraで57.0、GPUを16GBのVRAMと20GBのシステムRAMに制限した場合に毎秒44.9トークンを報告しています @TeksEdge。

メカニズムは、より小さなモデルではなくメモリ階層です:エキスパートは別々のコピーを保存する代わりに大きな重み行列を共有し、頻繁に使用されるエキスパートはGPUメモリに留まり、他のエキスパートはシステムRAMに存在し、大きな埋め込みテーブルはSSDから読み取られ、CPUとGPUの実行が投機的デコードと並行して実行されます @TeksEdge。報告されたベンチマークは、Terminal-Bench 2.1で86.5%、DeepSWE 1.1で64.6%、GPQA Diamondで90.4%、IFBenchで80.6%、HLEで35.4%であり、DeepSWEはQwen3.8-Flash-Next(58.7%)、DeepSeek-V4-Flash-0731(54.4%)、Qwen3.8-27B(42.2%)と比較されています @TeksEdge。2つの注意点が伴います:推論コードはApache 2.0ですが、ウェイトは一部の商用展開に許可を必要とする可能性のある別のコミュニティライセンスを使用し、完全な145B NVFP4リポジトリはSSDバックアップの埋め込みテーブルを含めて約113GBです @TeksEdge。

圧縮はローカル実行可能性へのもう1つのルートです。PrismMLのBonsai 2は、Qwen3.8-27Bを55.6GBから5.9GBに縮小すると報告されています—89.4%の削減—一方で、20のベンチマークにわたる総合ベンチマークパフォーマンスの98.2%を保持し、以前のBonsai 27Bバージョンの約95%から向上しています @Oluwaphilemon1。方法は三値量子化で、ウェイトは-1、0、+1の値のみを取り、スケーリング係数が使用可能な範囲を回復します @Oluwaphilemon1。投稿自体が限界を指摘しています:チェックポイントサイズは総推論メモリではなく、KVキャッシュ、アクティベーション、ランタイムバッファが依然としてメモリを消費し、総合98.2%はすべての機能が均等に劣化することを意味しません @Oluwaphilemon1。

サービングレイヤーの選択は、モデルの選択と同じくらい重要です。ある要約は、Ollamaを単純なローカル実行、vLLMを高スループットの同時サービング、SGLangをプレフィックスキャッシュと構造化出力を備えたエージェントワークフローに対応させ、選択は誇大広告ではなくワークロードに従うべきだと主張しています @GauriTripa94282。

フロンティアリリースレースは騒がしく未確認

Googleの1週間は、CEOによって要約されたように、2つの新しい第8世代TPU、Gemini 4 Carbon、コード検証済みAlphaProof、Signalプロトコル作業、Gemini Robotics 2.5、疾患研究のためのAlphaGenome 2、AI StudioのGemini Decisions API、Gemini 4 Hydrogen、インテリジェントアイウェアの予約注文を含んでいました @sundarpichai。

OpenAI側では、投稿は発売ではなく期待を説明しています。ある投稿者は、AnthropicとGoogleが競合モデルをリリースした一方でGPT-6.2 AstraとSolがまだ出荷されていないことを「緊急事態」と宣言し、OpenAIがトレーニングに戻った可能性があると推測しました @theaidesk_。別の投稿者は、AstraとSolが一緒に発売されることを期待し、Astraチェックポイントを「本当に印象的」と呼び、コードを通じてビデオのような出力が可能でありながら、全体的な品質ではまだ遅れていると述べました @Mr_nexp。ロボティクスに焦点を当てたアカウントは、GPT-6 Astraが多くのロボティクスベンチマークでトップの座をすでに保持していると主張しました @openroboto。これらはどれも公式確認ではありません。

趣味のベンチマークが大まかなクロスモデル比較を提供します:Chrome Dinoテストで、Qwen4-Max-Previewは無料で32分12秒、Gemini 4 Carbonは34分41秒で5.20ドル、GPT-6 Astraは15分で4.61ドル、Fable 5.2は45分30秒で14.77ドルで、投稿者はFableを総合勝者、Qwenを最もよく構築された恐竜と判断しました @noclipepe。

広く共有された1つの物語は、単一のリリースがコーディング作業を変えたとしています:2025年11月24日にリリースされたClaude Opus 4.5は、LLMが単なるチャットではなく実際の作業ができる最初の兆候であり、その後すべてのロードマップが超指数関数的需要をモデル化したと説明されています @kevinxu。

推論パフォーマンスは購入されるだけでなくエンジニアリングされている

エージェントワークロードは最適化をサービングスタックに押し込んでいます。InferenceForgeは、エージェントワークロード向けにLLM推論をプロファイリング、ベンチマーク、最適化するエージェントシステムとして説明され、SemiAnalysis AgentXベンチマークで同じレイテンシSLAの下で最高の公開ベースラインよりも43%高いスループットを報告しています @kaiwei_chang。別のチームは、PyTorch、SGLang、DSLなしでRustとCUDAでDeepSeek V4.1-Flash用の推論エンジンをゼロから構築し、4xB300で毎秒約1740トークンのデコード、8xB300で2060、約12秒で100万トークンのプリフィルを報告し、GitHubで公開しました @saltyph。

クラスターレベルでは、NVIDIAとInferactがMiniMax M3.1 Flashのローンチから3週間未満でvLLM Rubin NVL72の結果を提出し、CUDA 13.4のローカリティ認識MoE機能を使用して実現HBM帯域幅を約1.2倍に引き上げ、レイテンシを削減することで、GB300 NVL72よりもTCOあたり6.5倍優れたパフォーマンスを主張しました @SemiAnalysis_。

推論努力は不均一なリターンを持つコストレバーです。ベンチマーク比較では、高い推論努力によりDeepSeek-V4.1-Flashが28%高価になる一方で1ポイントも獲得できず、おそらく低努力で呼び出しごとに約470の推論トークンをすでに発行しているため、高努力はGLM-5.3-Flashの60%に対してわずか19%の追加思考しか追加しないことがわかりました @joelniklaus。GLM-5.3-Flashでは、追加の思考が5つのコーディングエージェント全体で平均5.8パーセントポイントの向上をもたらしましたが、DeepSeekの差は95%信頼区間内に収まりました @joelniklaus。各エージェントは、Terminal-Bench 2.1とDeepSWEから198のコーディングタスクを両方の努力レベルで実行し、それぞれ3回試行しました @joelniklaus。

エージェントインフラストラクチャ:サンドボックス、検証、メモリ

OpenAIの内部エージェントセットアップは、広く共有されたスレッドで説明されているように、製品フィードバックからプルリクエストを開き、データ実験を実行する500以上のバックグラウンドエージェントを実行します。組織のルールは、エージェントとそれが書くコードは信頼されておらず、プレーンな決定論的コードのみが信頼されることです @undefinedKi。与えられた実装詳細:設定ゲートウェイはエージェントとは別のクラスターで実行され、エージェントは許可リストに制限されたインターネットと自分のフォルダに限定された書き込みを持つサンドボックスで動作し、~/.sshへのアクセスはなく、シークレットはエージェントが決して見ない資格情報ブローカーに存在し、2番目のエージェントがすべてのアクションをレビューするため、人間は高価値の承認のみを処理し、各エージェントは監査可能でオフにできる独自のIDと推論資格情報を持ち、すべての設定変更とエージェントターンがログに記録されます @undefinedKi。

実践者のプレイブックは同じアイデアを会社のオペレーティングシステムとしてフレーム化します:マークダウンファイルの個人用「セカンドブレイン」、顧客と決定の会社用ブレイン、記録された通話を文字起こしにパイプ、発明された主張を抑えるためのファクトファイル、音声ファイル、すべてをgitに、上部に1つの指示ファイル、クロスセッションメモリ、エージェントがクエリできるウェアハウス @gregisenberg。また、記録されたワークフローを1つの巨大なプロンプトではなく小さな単一目的のスキルに変え、MCPを通じてツールを接続してエージェントがアドバイスではなく行動できるようにし、高価なモデルを計画に、安価なモデルをボリュームにルーティングし、ジョブごとのコストを追跡し、人間を承認と顧客対応に保つことを主張しています @gregisenberg。

キュレーションされたリポジトリラウンドアップはエコシステムを定量化します:202の既製エージェントと185のスキルをカバーする18のオープンソースプロジェクト、OpenAI、Google、Microsoft、AWSからの公式フレームワーク、コード実行用サンドボックス、トレーシングツール、共有メモリレイヤー @undefinedKi。並行リストは、エージェントメモリをプレーンマークダウンで保存する7つの「セカンドブレイン」リポジトリを指し、セッションが損失なくClaude CodeとCodexの間を移動できるようにします @mojunel。

検証は新たな差別化要因です。あるアカウントは、エンジニアがエージェントの作業を読むのをやめた後、マージされたPRが13倍に増えたと説明し、そのメカニズムは「ノー」と言うことだけを仕事とする2番目のエージェントと、完了のレベルを定義するチェックファイルです @distortgeekin。同じアプローチは、失敗ケースをパッチと一緒に保持し、失敗状態を含む実際のユーザージャーニーを再生し、結果をテスト済みコミットにバインドし、インポートグラフで機能境界を強制し、利用できないチェックを合格としてマークするのではなくNOT_RUNとしてマークします @0xChaseTM。

より小さなツーリングの賭けは同じボトルネックをターゲットにしています。Turnpackはエージェントの検索-読み取り-編集-テストループを折りたたみ、著者自身のテストでラウンドトリップを半分、時間を約半分、36%安く報告し、編集が壊れたときのスナップショットロールバックも提供します @OnlyTerp。別の投稿は、Claude Codeをモデル間で分割することを説明しています—Sonnetがセッションを実行してコードを書き、Haikuがファイルとドキュメントを並行して探索し、Opusがプランがロックされる前、同じエラーが2回発生した後、タスクが完了と呼ばれる前にアドバイザーとして呼び出されます @xsmryze、コンテキスト検査、レビュー、検証、バックグラウンドタスク用の組み込みコマンドのリストとともに @beamnxw。

より広いClaudeサーフェスは現在、チャット、コード、デザイン、スプレッドシート、データ、ドキュメントに及び、メモリとコネクタが接着剤です @rubenhassid、そしてコンパニオン作品は、古いモデル用に構築されたスキルを削除することを含む、いつどのツールを使うかを知ることが生のモデル選択よりも重要だと主張しています(スキルが回答を悪化させる可能性があるため) @rubenhassid。

ロボティクス:スキル転送、ベンチマーク、専門化

NVIDIAのGR00T 2は、ロボティクス研究用のオープンSystem Oneモデルとして説明され、人間のデモンストレーションからスキルを学び、アクションが物理世界をどう変えるかを予測し、それらのスキルを異なるロボットボディにわたって運び、すべてのロボットにすべてのタスクをゼロから教える必要性を減らします @nvidia。二次的な報道は、同じ能力を人間の行動を観察して学び、学習したスキルをボディ間で転送することとしてフレーム化し、適応可能な汎用ヒューマノイドを加速する可能性があります @MartiniGuyYT@WatcherGuru。

学術研究は同じ問題に収束しています。BAIRの論文「SuperMimic: Scaling Humanoid Whole-Body Control with One Differentiable World Model」はCoRLで最優秀会議論文賞を受賞しました @berkeley_ai。ある研究者は、Waldenの最長稼働展開、展開データと大規模事前トレーニングの結合の価値、大規模製造への拡大からの教訓をカバーする「工場での学習」に関するCoRLトークを説明しました @RussTedrake、一方AMDのCEOは同じ会議でロボティクスと物理AI研究の状態を強調しました @LisaSu。

誰もがヒューマノイドが正しい産業ターゲットであると確信しているわけではありません。あるロボティクスコメンテーターは、産業サイトはスマートで信頼性が高く、堅牢だが専門化されたロボットを好み、ヒューマノイドは感情と相互作用に重点を置いたオープンエンドで一般的な低ボリュームのユースケースに予約し、すでに食器洗い機を所有している場合、食器洗い機はヒューマノイドにとってのツールであり、手で再学習するタスクではないと述べています @jetsonearth。このバッチのハードウェアデモンストレーションには、雪かきなどの現実世界の肉体労働用に設計されたロボット @Rainmaker1973 と、開発中のシリコンスキンを備えた超リアルなヒューマノイドロボット @MarioNawfal が含まれます。ある研究アカウントは、エージェントロボティクス向けの最大の体系的な評価キャンペーンと呼ぶものをリリースし、ほとんどの評価がエージェントをツールとして扱い、インテリジェントなツールユーザーとして扱っていないと主張しました @Nicolas_Keller。

展開側では、サルバドル軍が銃を装備した中国製の四足ロボットをポルトープランスに配備したという報告が広まりました @war_noir。

セキュリティ:エージェント攻撃、ガードレール、経済

FBIのサイバー部門は、脅威アクターがオープンソースのLLM駆動エージェントプラットフォームであるARTEXを武器化し、マシンスピードで侵入の複数のフェーズを自動化し、少なくとも2026年8月以降、金融サービス、政府、テクノロジーセクターを世界的にターゲットにし、複雑なマルチターゲット運用を実行するために必要な専門知識を減らしていると警告しました @FBICyberBranch。局は戦術、技術、手順、侵害指標を含むFLASHを公開し、組織にその緩和策を適用するよう促しました @FBICyberBranch。

オープンウェイトの議論にはセキュリティ側面があります。abliterated量子化版のアップローダーは、報道機関が約6,500の検閲なしおよび異端モデルをHugging Faceから削除することを望んでおり、攻撃的サイバー向けに販売された1つのモデルが削除され、abliterationはハッキングを教えるのではなく拒否方向を削除するだけであり、1つのQwen3.8 Flash-Next量子化版が30日間で約358,000ダウンロードされたと述べています @superalesha。別途、モデル固有のバイパス方法を集約する脱獄指向のプロジェクトが16,000 GitHubスターを超え、投稿者は許可されたセキュリティ研究以外でそのようなツールを使用するとアカウントが禁止される可能性があると警告しました @rakib_hossen_ai。

エージェントコマースは独自の安全設計を生み出しています。エージェント間プロトコルの1つの分析は、ステーキングとスラッシングに焦点を当て、参加者の役割が不正行為に対して金銭的結果をもたらすようにし、評価、紛争、スラッシングルールがステーク自体と同じくらい重要であると述べています @chychyorjhy。支払い製品はより単純なルートを取ります:エージェントは引き上げられない支出上限内でツール呼び出しごとに支払い、領収書付きです @Sonofpeace0001。

能力タイムラインに関して、中継されたインタビューでは、ラボのCEOが生物学における専門家の懐疑主義が数学とコーディングにおける以前の懐疑主義を反映していると主張しています:

「専門家は非常に懐疑的です。製薬会社のCEOは懐疑的です。彼らは過去に多くのテクノロジーが彼らの問題を解決しようとするのを見てきましたが、彼らの問題が非常に難しいことを見てきました。数学も同じです。コーディングも同じです。」 @firesidealpha

同じインタビューは、各障壁—臨床試験、製造、FDA—が少しずつ、そして数年以内にすべて一度に取り組まれていると主張し、懐疑論者が特定の分野で正しい可能性があることを認めています @firesidealpha。

コンピュート、輸出規制、そして誰がアップサイドを所有するか

元OpenAI研究者は、DeepSeek、Moonshot AI、MiniMax、Ant Groupがすべて米国の輸出規制にもかかわらずNVIDIA Blackwell GPUで最新のフロンティアモデルをトレーニングしたという強力な法医学的証拠があると主張しました @MTSlive。懐疑論者は、DeepSeekがBlackwellのトレーニングと推論カーネルをGitHubで定期的に公開しており、NVIDIA従業員がそれらのカーネルリポジトリに目に見えて貢献しているため、証拠はほとんど証明しないと反論しました @ariaurelium@chiefofautism。

資金調達は、シリコンではなく、1つの長いスレッドで制約としてフレーム化されています:コーディング能力のジャンプの後、すべてのロードマップが超指数関数的需要をモデル化し、AI革命のボトルネックを1人のCEOが独自にバックストップできる資金調達問題に変えました—反事実は、より保守的なNVIDIA、才能の流出、遅いサプライチェーンパートナーシップ、需要を満たすのに十分なコンピュートがないことであり、それがスーパーインテリジェンスをゲートキープするでしょう @kevinxu。

マクロの議論は人口統計から同様の結論に達します:人口増加がなくなり、債務能力が尽きた状態で、AIとロボティクスによる生産性が唯一の残された成長レバーであり、報酬はネットワークを所有する者に行きます @RaoulGMI。NVIDIAのCEOから中継された仕事不安への反論:

「あなたはAIをよりよく学んだ誰かに仕事を失うでしょう」 @0xSanabi

同じ投稿は、会社が全業務にAIを持ち、より多くの人を雇用しており、10年かかると期待された仕事が今では1年か2年で期待されていると主張しています @0xSanabi。そのシフトのためのツーリングはx86を超えて拡大しています:あるプロバイダーは、エージェントワークロード向けに弾力性のあるmacOSとAppleシリコン容量を販売し、大規模なM5 Ultraクラスターを引用しています @themountthor。

研究ノート

このバッチの2つの論文は基礎をターゲットにしています。投機的自己蒸留に関するNeurIPS論文は、LLMがすでに知っていることを忘れずに新しいドキュメントを教える方法に対処し、学生が書き、教師が重要な場所でのみ介入します @StanfordAILab。フロンティア事前トレーニングのための再帰的自己改善に関する論文は、エージェント駆動の改善ループをゼロからフロンティア事前トレーニングラン全体に適用した最初のものであると主張し、801-30B-A3Bを生成し、Qwen3-30B-A3BとNemotron-3.5-Lightning-30B-A3Bを打ち負かすオープン30B MoEベースであり、わずか6BトークンのSFTとRLなしで、Qwen3.6-35B-A3Bを含む完全にポストトレーニングされたモデルに対して4つのエージェントベンチマークで最高平均を報告しました @dair_ai。著者の方法は、作業をより小さな閉じられるループに分割し、エージェントがインフラストラクチャとデータをデバッグし、小さなSFTランでポストトレーニングのヘッドルームをチェックし、専門家の判断をパイプラインメトリクスに変換して、否定的な結果を保持するコンテキストストアを通じて共有することでした @dair_ai。

クリエイティブおよびデザイン制作はプロンプトに崩壊している

インフラストラクチャ以外で最も繰り返されるパターンは、制作パイプライン全体が単一のスキルに圧縮されることです。あるクリエイターは、フロンティアモデルの上にショート動画スキルを構築し、映画を書き、すべてのフレームを描き、単語レベルのキャプションを追加し、弱いショットを再ペイントし、生成トークンコストをスキップするためにビデオモデルを意図的に避け、13のビジュアルルックにわたって行います @tobiadonadon_。別の投稿者は、モデルが45秒、4K、60fpsのGTA 6コンセプトドライブを生成したと主張しています—1つのプロンプトと14のフォローアップから3時間で2,733フレーム—ただし、これはコンセプトドライブであり、ゲームではないと述べています @polinaaAi。3番目の投稿者は、ボクセルRobloxモデル用のClaudeスキルを説明し、メッシュ、リグ、アイドル-ウォーク-アクションアニメーションクリップ、Luauビルダーをカバーし、チェーン全体がカバーされると独創性は予算の問題ではなくなり、希少なものはクリーチャーが世界に存在する理由になると主張しています @marvin_x1。

ツーリングリストは同じ方向を指しています:デザインシステムに対してプロトタイプを構築するオープンデザインスタジオ、出荷前に「AIスロップ」をキャッチする語彙パック、HTMLからMP4へのレンダラー、スクリーンショットから推測する代わりに実際のレイアウトデータを読むFigmaコンテキストサーバー、ビデオエンジン、アニメーションライブラリ、3D、エンコーディングを組み合わせた16リポジトリのモーションスタック @thegreatest_sv@cryptowluha。