AI とフロンティア技術のまとめ：ローカライズされたフロンティアモデル、エージェントインフラ、そして物理的AI

ローカルかつコスト効率の高いフロンティアAIへのシフト

  • Local Frontier Models: 大きな突破口として Colibrì が登場しました。これは純粋な C 推論エンジンで、744B パラメータの GLM-5.2 モデルをわずか 25 GB の RAM しか搭載していない一般的なノートパソコン上で実行可能にします。これは、メモリ内に密集コアを保持し、必要に応じて SSD から Mixture-of-Experts (MoE) モジュールをストリーミングすることで実現しています [Nav Toor, Hasan Toor, David Hendrickson].
  • Hardware Alternatives: ローカル AI 愛好者は、ハイエンドのコンシューマーリグ（例：RTX 5090）や再利用されたサーバー機器を用いてクラウドコストを回避しています。あるユーザーは、デュアルソケット EPYC Rome ボードと 768 GB の RAM を使用し、DeepSeek V3 671B を 1 秒あたり 8〜12 トークンの速度で実行したと報告しており、MoE モデルは生の計算能力よりもメモリ帯域幅を優先すると主張しています [Orion, DEGENPIZ].
  • Price Wars and Efficiency: フロンティアモデルを一日中使えるほど安価にする動きが拡大しています。Grok 4.5 はコスト効率とトークン効率が高く、コスト対パフォーマンスのパレートフロンティア上に位置すると評価されています [Tesla Owners Silicon Valley]. さらに、Kimi K2.6 Thinking や DeepSeek V4 Pro といったオープンウェイトモデルが、クローズドモデルのごく一部のコストでフロンティアレベルの性能を提供しています [Louis-François Bouchard].

エージェントインフラとエンジニアリング

  • Routing and Cost Management: オープンソースプロキシ Plano は、ガードレール、ルーターモデル、選択ポリシー、モデルアフィニティの 4 段階ルーティング層を実装し、エージェントコストの削減を図ります。重要な洞察は「モデルアフィニティ」で、タスク途中でモデルを切り替える際にプロンプトキャッシュが失われるのを防ぐために、モデルをセッションに固定します [Avi Chawla, Alex Prompter].
  • Agentic Frameworks: エージェント展開を簡素化する新ツールが登場しています。例として Prime Intellect's verifiers v1 は、環境をタスクセット、ハーネス、ランタイムに分解し、エージェント RL と評価を支援します [Prime Intellect]. さらに、GRPO とトラジェクトリを用いた実エージェント上での RL 用オープンソースフレームワークも開発されています [Md Ismail Šojal].
  • Educational Roadmaps: AI エンジニア志望者向けに、Python と API の基礎から RAG、エージェントオーケストレーション、プロダクションレベルの可観測性へと段階的に学ぶ技術ガイドが流通しています [Suraj Sharma, MIKE].

物理AIとロボティクス

  • Humanoid Progress: UC サンディエゴの研究者は Unitree G1 ヒューマノイドを用いて、非霊長類哺乳類に対する初の遠隔操作ヒューマノイドロボット手術を実施しました [Space and Technology].
  • Industrial Application: DEWALT と August Robotics は、データセンター建設用の自律掘削ロボット DALE を発表しました。同ロボットは 230,000 本の穴を 99.97 % の精度で掘削したと報告されています [AG].
  • Embodied Foundation Models: LingBot-Video はロボティクス向けに特化したオープンソース MoE ビデオ基盤モデルで、視覚的リアリズムだけでなく、物理的妥当性と行動に重点を置いています [RoboHub].
  • Investment Thesis: 一部のアナリストは、労働と製造の「物理層」が依然として破綻しているため、ロボティクスが現在テック分野で最もレバレッジが高いベットであると主張しています [Mustafa].

モデル流出と技術アップデート

  • Google Gemini: 流出情報によると、Gemini 3.5 Pro（コードネーム "Cappuccino"）は「Deep Thinking」モードと 200 万トークンのコンテキストウィンドウを備える可能性があります [Lumina].
  • OpenAI: 噂では、8 月に GPT-5.7/GPT-6 がリリースされ、1.5 M トークン以上のコンテキストウィンドウと新しい事前学習基盤が搭載されるとされています [Lumina].
  • Anthropic: 流出情報は、Claude Opus 5 が 7 月下旬に発売予定で、1 M トークンのコンテキストウィンドウを持つことを示唆しています [Lumina].
  • NVIDIA Research: 新しいトランスフォーマー変種 SparDA は、次層の必要性を予測する "Forecast" 投影を追加し、CPU から GPU へのメモリコピーを重ね合わせることで、デコード速度を 1.7 倍に、長期推論精度を向上させます [Avi Chawla].

関連