llm-workflow-engine/llm-workflow-engine

解决的问题

LLM 工作流引擎（LWE）提供了一种直接从命令行与各种大型语言模型（LLMs）交互并将其集成到自动化工作流中的方法。它无需使用网页界面，允许用户将数据管道传输到 LLM，并将其作为更大系统操作的一部分使用。

工作原理

LWE 作为一个 CLI 工具和 Python 库，连接到 LLM 提供商。它支持官方的 OpenAI ChatGPT API（包括 GPT-4）以及其他通过插件架构支持的提供商。用户可以通过将 LLM 调用集成到 Ansible Playbooks 中，构建复杂的自动化工作流，实现需要 AI 推理的任务自动化。

适用人群

希望将 LLM 功能集成到其基于终端的工作流、Python 脚本或使用 Ansible 的自动化脚本中的开发人员、系统管理员和高级用户。

主要亮点

• 命令行界面：直接在 shell 中与 ChatGPT/GPT-4 及其他 LLM 交互。
• 多提供商支持：通过插件支持 OpenAI、Cohere、Huggingface 等。
• 工作流集成：可将 LLM 调用集成到 Ansible Playbooks 中，用于更大规模的自动化工作流。
• 可扩展架构：提供简单的插件系统以添加自定义功能。
• Python API：可在 Python 脚本中使用的库。
• 工具使用：支持兼容提供商的工具使用。