Inkling 2 Small リリースノート

Thinking Machinesは、エージェントによるコーディング、ビジョン、ナレッジワークにおいて高いパフォーマンスを発揮する新しいMixture-of-Experts (MoE) モデル「Inkling 2 Small」を発表しました。総パラメータ数594B、アクティブパラメータ数17Bを誇るこのモデルは、前モデルから大幅な性能向上を実現しており、Artificial Analysis Intelligence Indexで31というスコアを記録しました。

技術アーキテクチャとトレーニング

Inkling 2 Smallは、NVIDIA Blackwellアーキテクチャで導入された4ビット浮動小数点形式であるNVFP4で完全にトレーニングされた、この規模では初のモデルです。この精度の選択により迅速なトレーニングサイクルが可能となり、主要な事前トレーニングフェーズ(H1)では、NVIDIA GB300 NVL72ラックを使用してわずか68時間で8.4兆トークンを処理しました。

トレーニングプロセスには4段階のアプローチが採用され、9日間で1,700万回のロールアウトを行う大規模な共同強化学習(RL)実行で締めくくられました。チームは非同期RLインフラストラクチャにおける陳腐化を処理するために「StableReinforce」目的関数を採用し、計算量に対してモデルのパフォーマンスを対数線形的にスケーリングできるようにしました。

エージェントおよびビジョン機能

Inkling 2 Smallは、長期的な自律タスク向けに最適化されています。Perception Encoderに基づく292Mパラメータのビジョンエンコーダーを統合しており、OCRやインフォグラフィックの解釈から複雑な視覚的推論まで、幅広いタスクで画像入力を処理できます。

エージェントによるコーディングにおいて、このモデルは、単なるユニットテストの結果ではなく問題解決プロセスを評価するエージェント型RLグレーダーを使用して、数十万件の長期タスクでトレーニングされました。このモデルは以下の分野で強力なパフォーマンスを示します。

  • 自動リサーチ: 時系列予測のために他のモデル(例:Qwen3.5-4B)を自律的にトレーニングする能力を実証。
  • 視覚的推論: 視覚入力のみを使用したブラインドワインテイスティング試験で研究者を上回る成績を記録。
  • 設計とシミュレーション: Three.jsを使用してインタラクティブな3D環境や都市シミュレーターをプロシージャルに生成可能。

安全性とアライメント

Thinking Machinesは、多層防御の安全戦略を実装しています。これには以下が含まれます。

  • 同期モニタリング: 実行前にタスク固有のポリシーに対してツール呼び出しを検査するシステム。
  • 非同期モニタリング: 完了したロールアウトの不正動作をレビューするLLMジャッジ。
  • アライメントトレーニング: 行動仕様を内部化するためのオンポリシー自己蒸留の使用と、トレーニング中の不正動作トレースのフィルタリング。

このモデルは以前のバージョンと比較して敵対的プロンプトに対する耐性が向上していますが、特定のアライメント評価ではGPT-6.1 Solのようなクローズドウェイトモデルにまだ及ばないと同社は指摘しています。完全なウェイトは、外部の安全性テストを経てApache 2.0ライセンスの下でリリースされる予定です。

可用性とコミュニティの反応

Inkling 2 Smallは現在、Tinkerプラットフォームで推論およびファインチューニングが可能です。Hacker Newsでのコミュニティの議論では、開発チームの驚異的なスピードとNVFP4トレーニングレシピの技術的重要性が強調されています。オブザーバーは、このモデルが他のフロンティアオープンウェイトモデルに対する競争力のある国内の代替手段として機能すると指摘しましたが、一部のユーザーはモデルのサイズや命名の選択について懸念を表明しました。

"ここでの最も重要な点は、トレーニングが完全にnvfp4で行われたことです。これは、その精度でトレーニングされたモデルの中で群を抜いて最高のものであり、彼らがこれほど速く実行できた理由を説明しています。" — @itkovian_

"これは優れた国内のオープンウェイトモデルです。数億ドルをかけずとも、小さなチームが9日間でDeepSeek 4.1を打ち負かすことができるモデルと、それを調整するためのプラットフォームを生み出しています。" — @epsteingpt

Sources

関連

  • Dispatch
  • Dispatch
  • Dispatch
  • Dispatch
  • Dispatch