Inkling オープンウェイトモデルリリース
Inkling オープンウェイトモデルリリース
Inkling は 975 B パラメータの Mixture‑of‑Experts トランスフォーマーで、41 B のアクティブウェイト、1 M トークンコンテキスト、フルオープンウェイトリリースを備えており、Thinking Machines の Tinker プラットフォーム上でファインチューニングできる初の大規模マルチモーダルオープンモデルです。
Inkling が重要な理由: マルチモーダルで効率的、かつカスタマイズ可能な基盤モデル
Inkling はマルチモーダル推論(テキスト、画像、音声、動画)、制御可能な思考コスト、そして Tinker のファインチューニング UI とのシームレスな統合を組み合わせており、ベンチマークの生スコアでは最強ではないものの、開発者にとって実用的なオープンウェイトベースを提供します。
コア仕様
- アーキテクチャ: MoE トランスフォーマー(レイヤーあたり 256 ルーティングエキスパート、トークンあたり 6 アクティブ)+スライディングウィンドウ + グローバルアテンション(5:1 比)と相対位置埋め込み。
- スケール: 総パラメータ 975 B、推論時アクティブ 41 B;コンテキストウィンドウ 1 M トークン。
- 学習データ: テキスト、画像、音声、動画を含む 45 兆トークン。
- マルチモーダル入力: 40×40 ピクセルパッチの画像は 4 層 hMLP で処理、音声は離散 dMel スペクトログラムとして扱う。
- コスト制御: ランタイムの "effort" ノブ(0.2‑0.99)でトークン使用量と性能をトレードオフでき、約 1/3 のトークン予算で大規模モデルに匹敵するスコアを実現。
- リリース: Hugging Face にフルウェイト(標準と NVFP4 チェックポイント)を公開、Tinker コンソールでも即時利用可能(64 K / 256 K コンテキストオプション)。
effort = 0.99 時のベンチマーク性能
Inkling は専門モデルというよりバランスの取れたジェネラリストです。0‑100 の共通スケールで複数ファミリーにわたり競争力のある順位を占めます。
| カテゴリ | Inkling スコア | 最高オープンウェイト比較モデル |
|---|---|---|
| 推論 (HLE + tools) | 46 % | Nemotron 3 Ultra (54 %) |
| エージェントコーディング (SWEBench Verified) | 77.6 % | Claude Fable 5 (95 %) |
| ビジョン (MMMU Pro) | 73.5 % | Gemini 3.1 Pro (82 %) |
| 音声 (VoiceBench) | 91.4 % | Gemini 3.1 Pro (94 %) |
| 安全性 (FORTRESS Adversarial) | 78.0 % | Nemotron 3 Ultra (77.6 %) |
| 安全性 (StrongREJECT) | 98.6 % | 全トップモデル ≥ 98 % |
| 予測 (Brier Index, no search) | 61.1 ± 0.79 | Kimi K2.6 (61.7 ± 0.54) |
effort のスイープにより、Inkling は Nemotron 3 Ultra の Terminal Bench 2.1 スコアを約 1/3 のトークン数で達成し、効率性の優位性を示しています。
マルチモーダル機能
- 音声: 音声認識、指示に従う音声操作、長尺音声推論。VoiceBench で 91.4 % を取得し、オープンウェイト音声モデルの中でも最上位に位置します。
- ビジョン: 画像説明、視覚的質問応答、チャート・図表の推論。軽量 Python ツールでズーム/クロップ操作を行い、ビジュアル+コードタスクに対応。
- テキスト&コード: エージェントツール使用、ワンショット Web アプリ生成、長尺リファインメントループ(例: 40 回イテレーションでマルチプレイヤー蛇ゲームを改良)。
これらはエンコーダーフリー設計に基づき、同一トランスフォーマーストリームへ複数モダリティをシンプルに統合しています。
制御可能な思考コスト
Inkling の effort パラメータにより、開発者はレイテンシとコストを性能とトレードオフできます。0.2 から 0.99 までのスイープは Terminal Bench 2.1、HLE、IFBench で滑らかな性能曲線を示します。例として、Terminal Bench で Nemotron 3 Ultra に匹敵するにはトークンの約 33 % で済み、高スループットアプリケーションの推論コストを直接削減できます。
安全性とエピステミクス
Inkling は CBRN、サイバー、操作脅威をカバーする安全仕様で学習され、外部テスターによる評価も受けました。オープンウェイトモデルの中で最高の FORTRESS 敵対的拒否率(78 %)を達成し、StrongREJECT でも 98 % 超を記録。有害リクエストを強く拒否しつつ、善良な回答率を維持しています。
キャリブレーション(エピステミクス)は、ルーブリックと事実性評価者を用いた RL、そして「自信が低いときは I don’t know」と答えるよう促す abstention‑aware 報酬で改善。ForecastBench での Brier Index (61.1) は最高クラスのオープンモデルに匹敵し、信頼できる不確実性推定を示唆します。
Inkling‑Small プレビュー
軽量版の Inkling‑Small は総パラメータ 276 B(アクティブ 12 B)を使用。多くのベンチマークで大モデルと同等または上回る性能(例: IFBench 83.4 % 対 79.8 %)を示し、レイテンシとコストが低いため、速度が重要なワークロードに適しています。
Tinker でのカスタマイズ
Inkling は Tinker コンソール上で直接ファインチューニング可能で、現在 "Inkling Playground" が搭載され、対話的チャットやツール使用が行えます。リリースでは自己ファインチューニングのデモも示され、Inkling が自身のファインチューニングジョブを生成・実行・評価し、エンドツーエンドのワークフローを実証しました。
開発者は Together、Fireworks、Modal、Databricks、Baseten の API、そして vLLM、TokenSpeed、llama.cpp などのオープンソースランタイム(NVIDIA Blackwell GPU 用 NVFP4 最適化チェックポイント含む)からモデルにアクセスできます。
コミュニティの反応(Hacker News ハイライト)
- 好意的な評価: コメント欄ではマルチモーダルの広がり、特に音声サポート、そして米国の研究所が競争力のあるオープンモデルを提供した点が称賛されました。
- ベンチマークへの懐疑: 一部ユーザーは生スコアで GLM‑5.2 に劣ると指摘しつつ、マルチモーダリティ、effort 制御、Tinker 連携といった独自の組み合わせを差別化要因と評価。
- 実務的な懸念: ローカルデプロイ(例: llama.cpp 移植)やライセンス(Apache‑2.0 + 追加 AUP)について質問がありました。
- 将来への期待: 小型+大型のモデルファミリーが期待され、Inkling がエンタープライズ向けファインチューニングサービスの基盤になる可能性が指摘されています。
要点
- Inkling はテキスト、画像、音声、動画をネイティブに扱える 1 M トークンコンテキストを持つ初の大規模オープンウェイトモデルです。
- 制御可能な effort 機構により、トークン効率で大規模競合モデルを上回るコスト‑パフォーマンスを実現。
- Tinker 上での統合ファインチューニングにより、ドメイン固有アプリケーションへの即時利用が可能で、ベンチマークのトップを狙うだけでなく実用的な基盤モデルとして位置付けられます。
入手先
- ウェイト: Hugging Face リポジトリ
thinkingmachines/inkling(標準と NVFP4 チェックポイント)。 - インタラクティブデモ: Tinker コンソールの Inkling Playground。
- API アクセス: Together、Fireworks、Modal、Databricks、Baseten、そしてオープンソースランタイム(vLLM、TokenSpeed、llama.cpp など)。
結論: Inkling のマルチモーダル範囲、効率的な effort 制御、そして即座に使えるファインチューニングパイプラインは、カスタマイズ性とコスト効果を求める開発者にとって魅力的なオープンウェイト基盤モデルです。たとえすべてのベンチマークで最高点を取らなくても、実務での価値は非常に高いと言えるでしょう。