llm-workflow-engine/llm-workflow-engine

Power CLI and Workflow manager for LLMs (core package)

何を解決するか

LLM Workflow Engine (LWE) は、コマンドラインからさまざまな大規模言語モデル (LLM) に直接アクセスし、自動化ワークフローに統合する方法を提供します。Webインターフェースを使用する必要がなく、データをLLMにパイプして、より大きなシステム操作の一部として使用できます。

仕組み

LWEはCLIツールおよびPythonライブラリとして動作し、LLMプロバイダーに接続します。公式のOpenAI ChatGPT API(GPT-4を含む)およびプラグインアーキテクチャを介した他のプロバイダーをサポートしています。ユーザーはAnsible PlaybooksにLLM呼び出しを統合することで、AI推論を必要とするタスクの自動化を実現できます。

対象ユーザー

ターミナルベースのワークフロー、Pythonスクリプト、またはAnsibleを使用した自動化スクリプトにLLM機能を統合したい開発者、システム管理者、高度なユーザー。

特徴

  • コマンドラインインターフェース: シェル上でChatGPT/GPT-4およびその他のLLMに直接アクセス可能。
  • マルチプロバイダー対応: プラグインを介してOpenAI、Cohere、Huggingfaceなどに対応。
  • ワークフロー統合: Ansible PlaybooksにLLM呼び出しを統合し、大規模な自動化ワークフローを構築可能。
  • 拡張性のあるアーキテクチャ: カスタム機能を追加するためのシンプルなプラグインシステム。
  • Python API: Pythonスクリプト内でLLMを使用するためのライブラリ。
  • ツール使用: 対応するプロバイダーでのツール使用をサポート。

関連

  • プロジェクト
  • プロジェクト
  • プロジェクト
  • プロジェクト
  • プロジェクト