Trampoline-AI/predict-rlm

何を解決するか

多くのLLMワークフローは単一のプロンプトでは複雑すぎて、固定されたステップの連鎖では柔軟性が足りません。predict-rlm はこうした複雑なワークフロー用のランタイムを提供し、モデルが解法への道筋を探索・推論・適応的に変更できるようにします。固定された事前定義されたシーケンスに従うのではなく、柔軟に行動できます。

動作方法

Recursive Language Models (RLM) 論文に基づき、システムはモデルがサンドボックス化されたREPL内でPythonコードを書く・実行できるようにします。ユーザーは入力・出力・ツール・操作手順（シグネチャ経由）を定義します。その後、モデルは反復的にコードを書くことで、ファイルの検査、状態の管理、特定のタスク（画像分析やデータ抽出など）に特化したサブモデルの呼び出し、ツールの利用を繰り返し、最終的な型付き出力を生成できるようになります。

対象ユーザー

深く調査が必要で、適応的な推論を要するアプリケーションを開発する開発者向けです。たとえば：

• コードベースの分析やインシデント調査。
• 文書のレビュー、機密情報の削除、情報抽出。
• ログ分析と証拠収集。
• 金融モデル作成やスプレッドシートワークフロー。
• オーディットやコンプライアンスレビュー。

特徴

• サンドボックス実行: モデル生成されたPythonコードを安全なREPLで実行（JSPI/Deno/PyodideまたはDockerサンドボックス対応）。
• コンテキスト管理: 大きな入力をファイルパスとメタデータとして保持し、必要に応じてのみ検査することで「コンテキストの劣化」を回避。
• 焦点型サブコール: predict() を使って、狭義の認知や抽出タスク（マルチモーダル対応含む）に特化した型付きDSPyシグネチャを起動。
• 構造化トレース: 各反復、ツールコール、サブコールを記録し、GEPAなどのツールでデバッグや最適化が可能。
• スキルシステム: ドメイン指示、PyPIパッケージ、ツールを再利用可能な「スキル」としてバンドル可能（例：組み込みのスプレッドシートおよびPDFスキル）。