nolabs-ai/deepfabric

What it solves

DeepFabricは、言語モデル、特にtool-callingやreasoningといったエージェント的な振る舞いに関する、高品質で多様な合成トレーニングデータを生成するという課題に対処します。データセットをドメインに固定し、シミュレーションされた出力ではなく、実際のツール実行結果に基づかせることで、モデルの過学習やハルシネーションを防ぎます。

How it works

このシステムは、独自のトピックグラフ生成アルゴリズムを使用して、ドメインをマッピングし、冗長性を排除しながらサブトピックを包括的にカバーすることを保証します。次に、ReAct (Reason-Act-Observe) ループを使用してトレーニングサンプルを生成します。正確性を確保するため、Spin Frameworkと統合して、隔離されたWebAssemblyサンドボックス内でツールを実行します。つまり、モデルの「観察」は、仮想ファイルシステムの実際の状態変化に基づいています。生成されたデータはHugging Faceへエクスポートし、TRL、Unsloth、またはAxolotlといったトレーニングフレームワークで使用できます。最後に、組み込みの評価エンジンを含んでおり、ファインチューニングされたモデルのツール選択とパラメータの正確性を、未知のタスクにおけるテストで検証します。

Who it’s for

これは、LLMをエージェントとして機能させるためにファインチューニングを行う開発者やAI研究者、特にモデルにツールの使い方、厳格なスキーマの遵守、および特定のドメインにおける複雑な計画の実行方法を教える必要がある人々を対象としています。

Highlights

• Topic Graph Generation: グラフとツリーを使用して、100%のトピックカバー率を確保し、冗長なサンプルを回避します。
• Real Tool Execution: WebAssembly (Spin) と統合し、ハルシネーションによるシミュレーションではなく、本物のツール呼び出しトレースを提供します。
• MCP Support: Model Context Protocol (MCP) サーバーのスキーマからツール定義をインポートできます。
• Integrated Evaluation: ツール選択の正確性、パラメータの正確性、および実行成功率を測定するための専用エンジンを提供します。
• Training Pipeline Integration: Hugging Face および一般的な SFT (Supervised Fine-Tuning) フレームワークとの直接的な互換性があります。