openJiuwen-ai/agent-core

解決する課題

openJiuwen Coreは、大規模言語モデル（LLM）アプリケーションを構築するための高性能なランタイムとPython SDKを提供します。柔軟な推論と構造化されたワークフローのオーケストレーションのバランスを保つことで、安定したプロダクションレベルのエージェント作成の難しさを解消し、実行速度の低下や中断されたタスクの状態復旧の欠如といった一般的なパフォーマンスのボトルネックを解決します。

仕組み

このフレームワークは、SDKインターフェース層とエージェントエンジンを分離したコアエンジンとして動作します。開発者は以下の2つの主要なパラダイムを使用してエージェントを構築できます：

• ReActAgent: 「思考 $ ightarrow$ 行動 $ ightarrow$ 観察」のループを使用して、動的な推論と自己修正を行います。
• WorkflowAgent: 構造化されたタスク自動化のために、定義済みのマルチステッププロセスを実行します。

非同期並列グラフエグゼキュータを使用してコンポーネントの並行処理とストリーミングIOを処理し、エージェントの状態保存と復旧（チェックポイント）を管理するリソースマネージャーを備えています。

対象者

自律的な推論と厳格なプロセス自動化の両方をサポートする、スケーラブルで高性能なランタイムを必要とするLLM駆動アプリケーションの開発者向けに設計されています。

ハイライト

• デュアルエージェントパラダイム: ReActスタイルの自律エージェントと、プロセス駆動型のWorkflowAgentsの両方をサポート。
• 高性能エンジン: コンポーネントの並行実行とストリーミング処理のための非同期並列グラフエグゼキュータを搭載。
• 状態管理: エージェントの状態保存と中断からの復旧を可能にし、単一のセッション内で異なるワークフロー間の切り替えを可能にします。
• プロンプトツール: ワンクリックでのプロンプト生成機能と、実データセットを使用した自動最適化機能を内蔵。
• オブザーバビリティ: エージェントの最適化のためのフルリンク・オブザーバビリティとデバッグツールを提供。