julep: データフローとして耐久性があり、構成可能な AI エージェントを構築し、クラッシュ後も安全にリトライおよび再開できるフレームワーク

解決する課題

Julep は、アドホックなループで構築された AI エージェントの脆弱性に対処します。クラッシュしても再開でき、安全に操作をリトライでき、実行中に取られたすべてのステップを明確に説明できる、耐久性と構成可能性を備えたエージェントを作成するためのフレームワークを提供します。

仕組み

単純なループの代わりに、Julep はエージェントを構成可能なデータフローとして扱います。開発者は @flow デコレータを使用してステップのグラフを定義します。このプロセスは Python コードを凍結されたワイヤーフォーマットの中間表現（IR）にコンパイルします。システムは登録されたツール、推論エンジン（LLM）、ブランチ、タイムアウトをサポートします。耐久性を確保するために、Julep は Temporal または DBOS とのオプション統合を提供し、ワークフローが状態を永続化し、障害から回復できるようにします。

対象ユーザー

高い信頼性が求められ、ツール呼び出しの権限が厳格に管理され、実行パスの追跡とデバッグが必要な複雑な AI エージェントシステムを構築する開発者向けに設計されています。

ハイライト

• 耐久実行: Temporal と DBOS との統合により、フローはクラッシュ後に再開できます。
• 構築による定義: Python デコレータを使用してエージェントロジックを構造化されたグラフにコンパイルします。
• 開発者 CLI: エージェントの一覧表示、実行、リント、テスト、デプロイを行うターミナルネイティブ CLI。エージェント DAG の Graphviz DOT 可視化も含みます。
• 拡張可能なランタイム: OpenTelemetry、Langfuse、WASM サンドボックス、マルチプロバイダー LLM サポートのオプション拡張があります。

Summary

耐久性があり、構成可能な AI エージェントをデータフローとして構築し、クラッシュ後も安全にリトライおよび再開できるフレームワーク。

Title

julep: データフローとして耐久性があり、構成可能な AI エージェントを構築し、クラッシュ後も安全にリトライおよび再開できるフレームワーク