llm-workflow-engine/llm-workflow-engine

解決的問題

LLM 工作流引擎（LWE）提供了一種直接從命令列與各種大型語言模型（LLMs）互動，並整合至自動化工作流程的方法。它無需使用網頁介面，讓使用者能將資料以管道方式傳送到 LLM，並作為更大系統操作的一部分使用。

工作原理

LWE 作為一個 CLI 工具與 Python 庫，連接至 LLM 提供者。它支援官方的 OpenAI ChatGPT API（包含 GPT-4）以及其他透過插件架構支援的提供者。使用者可透過將 LLM 呼叫整合至 Ansible Playbooks 中，建構複雜的工作流程，實現需要 AI 推理的任務自動化。

適用對象

希望將 LLM 功能整合至其終端式工作流程、Python 腳本或使用 Ansible 的自動化腳本中的開發人員、系統管理員與進階使用者。

主要特色

• 命令列介面：直接在 shell 中與 ChatGPT/GPT-4 及其他 LLM 互動。
• 多提供者支援：透過插件支援 OpenAI、Cohere、Huggingface 等。
• 工作流程整合：可將 LLM 呼叫整合至 Ansible Playbooks 中，用於更大規模的自動化工作流程。
• 可擴展架構：提供簡單的插件系統以新增自訂功能。
• Python API：可在 Python 腳本中使用的程式庫。
• 工具使用：支援相容提供者的工具使用。