thinking-machines-lab/tinker-cookbook

何を解決するか

大規模言語モデル（LLM）のカスタマイズとファインチューニングのプロセスを簡素化し、分散トレーニングインフラの管理の複雑さを取り除きます。高レベルのSDKと、さまざまなポストトレーニング技術向けの実用的なレシピライブラリを提供します。

動作方法

このプロジェクトは2つの主要なコンポーネントで構成されています：tinker は、分散トレーニング用のマネージドサービスにAPIリクエストを送信できるトレーニングSDKで、フォワード/バックワードパスやオプティマイザステップなどの操作を処理します。tinker-cookbook は、このAPIの上に構築された高レベルな抽象化と具体的な実装例（レシピ）を提供します。

対象ユーザー

SFT、RL、DPOなどの技術を使ってLLMをファインチューニングしたいが、自前のGPUクラスタを管理したくない研究者や開発者向けです。

主な特徴

• 多様なトレーニングレシピ：チャットSFT、数学・コードRL、プレファレンス学習（DPO/RLHF）、知識蒸留、ツール利用（RAG）、マルチエージェント自己対戦など、すぐに使える例を含みます。
• マルチモーダル対応：インクリングモデルファミリー向けに、音声および画像入力のファインチューニングをサポートします。
• 統合評価：GSM8K、MMLU-Proなど12以上の標準ベンチマークをサポートするベンチマークフレームワークを備え、訓練済みモデルの評価が可能です。
• Claude Code統合：Claude Codeエージェント向けの特別なスキルを提供し、ユーザーがトレーニング実験の計画・デバッグ・実装を支援します。