osolmaz/switch

解決する問題

switch は、「意思決定モデル」（自由形式のテキストを生成するのではなく、特定の選択肢の確率を出力するAIモデル）を複雑な多段階タスクに統合する問題を解決します。モデルがコードやツール呼び出しを生成することなく、文書分析やゲームプレイなどのタスクをナビゲートできるように、これらのモデルを管理する構造化された方法を提供します。

仕組み

開発者は「ドメイン」を定義します。これは特定のタスクの状態機械として機能します。フレームワークはエージェントループを管理し、モデルには型付き質問（手を選ぶ、文書のページを選ぶなど）が提示されます。モデルが選択肢を提供し、フレームワークの遷移関数がそれに応じて状態を更新します。このループはタスクが完了するまで繰り返され、各ステップはトレースファイルに記録され、モデルを再呼び出しせずにデバッグやプロセスのリプレイが可能です。

対象読者

このフレームワークは、効率的で狭いドメインの意思決定モデルを使用したい、専門的なAIエージェントや評価ジャッジを構築する開発者向けです。採点のために大規模な文書セットをナビゲートしたり、ゲームをプレイしたりするような複雑なタスクを実行する必要がある人に最適です。そこでは、汎用チャットモデルは高すぎるか、必要な精度が不足する可能性があります。

ハイライト

• 意思決定モデルが多段階推論を実行するための統一インターフェースを提供します。
• モデルが文書を「ナビゲート」して関連部分のみを読むことを可能にし、効率的なコンテキスト管理を実現します。
• トレースファイルからタスク実行をリプレイして、ロジックをデバッグまたはフォークするための組み込みサポートが含まれています。
• 実行を管理し、ブラウザで進行状況を表示し、ケースフォルダを処理するためのコマンドラインハーネスを提供します。
• 小型でドメイン固有のモデルの使用を可能にすることで、コスト効率を考慮して設計されています。