julep-ai/julep

解決する課題

Julepは、アドホックなループで構築されたAIエージェントの脆弱性（頻繁にクラッシュしたり、サイレントに失敗したりする問題）に対処します。Julepは、クラッシュしても再開でき、操作を安全にリトライでき、実行中のすべてのステップについて明確な説明を提供できる、耐久性のあるコンポーザブルなAIエージェントを作成するためのフレームワークを提供します。

仕組み

単純なループの代わりに、Julepはエージェントのロジックをコンポーザブルなデータフローとして扱います。開発者はPythonの @flow デコレータを使用してこれらを定義し、ロジックは凍結されたワイヤ形式の中間表現（IR）にコンパイルされます。これにより、システムは状態と進捗を追跡できます。

主なコンポーネントは以下の通りです：

• Reasoners: 定義されたLLM構成（モデル、システムプロンプト、出力スキーマ）。
• Tools and Pures: エージェントが呼び出すことができる登録済み関数。「pures」は決定論的なロジックを指します。
• Durable Execution: TemporalまたはDBOSとのオプションの統合により、フローが状態を永続化でき、失敗した場所から再開することが可能になります。
• MCP Integration: 標準化されたツールインタラクションと安全性チェックのための Model Context Protocol (MCP) のサポート。
• Control Plane: さまざまな環境でエージェントを管理、デプロイ、トレースするためのCLIおよびサーバー。

対象ユーザー

信頼性、厳格なツールアクセス制御、および複雑なマルチステップのエージェントワークフローを監査またはトレースする機能を必要とする、プロダクショングレードのAIエージェントを構築する開発者向けに設計されています。

ハイライト

• Durable State: 進捗を失うことなく、フローがクラッシュして再開できます。
• Safe Retries: ツール呼び出しに対するリトライとタイムアウトの組み込みサポート。
• Strict Tooling: エージェントは、凍結されたサーフェスを通じて明示的に許可されていないツールへのアクセスが拒否されます。
• Developer Tooling: エージェントのリスト表示、実行、リンター、テスト、デプロイを行うためのターミナルネイティブなCLI。
• Deployment Pipeline: 不変のS3アーティファクトリリースと、HelmによるKubernetesベースのレコンシリエーションのサポート。