thinking-machines-lab/tinker-cookbook

解決する課題

Tinker Cookbook は、大規模言語モデル (LLM) のカスタマイズとファインチューニングのプロセスを簡素化するための一連の高レベルな抽象化と実践的な例を提供します。Tinker API を活用することで分散学習の複雑さを排除し、開発者がインフラストラクチャではなく学習レシピに集中できるようにします。

仕組み

このライブラリは、分散学習のバックエンドを処理する tinker SDK 上に構築されています。Tinker Cookbook は、「レシピ」（事前設定された学習環境）のライブラリと、トークンシーケンスをチャットメッセージにレンダリングしたり、LoRA 学習のハイパーパラメータを管理したり、モデルを評価したりするためのユーティリティを提供します。

対象ユーザー

独自の学習クラスターを管理することなく、教師ありファインチューニング (SFT)、強化学習 (RL)、蒸留といった高度なポストトレーニング技術を実行したい研究者や開発者向けに設計されています。

ハイライト

• 多様な学習レシピ: Chat SFT、数学およびコードの RL（サンドボックス実行環境付き）、選好学習 (DPO/RLHF)、知識蒸留、マルチエージェント RL の実装が含まれています。
• マルチモーダルサポート: Inkling モデルファミリー向けに、音声および画像入力の SFT と RL をサポートしています。
• 統合評価: 12 以上のベンチマーク（GSM8K、MMLU-Pro、GPQA など）をサポートする実験的なベンチマークフレームワークにより、モデルのパフォーマンスを検証できます。
• Claude Code 統合: AI アシスタントが学習実験の計画やデバッグを自動化するのを支援する専用スキルが付属しています。