cloudwego/eino-ext

Various extensions for the Eino framework: https://github.com/cloudwego/eino

Eino Extension (cloudwego/eino‑ext)

是什么

  • 一组用于扩展 Eino 框架的插件和辅助库。Eino 是 CloudWeGo 项目,用于构建基于 LLM 的应用程序。

提供什么

  • 组件实现 – Eino 定义的组件类型即用代码,例如:
    • ChatModel:OpenAI、Claude、Gemini、Ark、Ollama 等的适配器。
    • Tool:Google 搜索、DuckDuckGo 等集成。
    • Retriever / Indexer:Elastic Search、Volc VikingDB 的连接器。
    • Document Loader:网页 URL、Amazon S3、本地文件的读取器。
    • Document Transformer:HTMLSplitter、ScoreReranker 等工具。
    • Embedding:OpenAI、Ark 等。
    • Lambda:例如 JSONMessageParser。
  • 回调处理器 – Eino 的 CallbackHandler 接口的实现,例如 Langfuse 跟踪处理器。
  • DevOps 工具 – 为 Eino 项目添加可视化调试、基于图的流程编辑及其他 UI 辅助功能的 IDE 插件。

为何重要

  • 避免开发者为流行的 LLM 服务和数据存储编写重复的胶水代码。
  • 保持生态一致性:所有扩展都遵循 Eino 定义的相同组件契约。
  • IDE 插件使设计和调试复杂 LLM 流程变得更加容易。

典型用例

  1. 快速原型开发一个使用 OpenAI 的 GPT 模型、通过 Google 搜索网络并从 Elastic Search 检索文档的聊天机器人。
  2. 需要可靠、经过测试的连接器来连接存储(S3)、向量数据库(VikingDB)和追踪(Langfuse)的生产级流程。
  3. 团队协作中,IDE 中的可视化流程编辑帮助非工程师理解 LLM 应用流程。

快速开始

  1. 克隆仓库并将其作为依赖项添加到你的 Eino 项目中(README 提供了官方 Eino 文档中的确切导入说明)。
  2. 选择你需要的组件(例如 ChatModel.OpenAI),并根据 Eino 组件文档进行实例化。
  3. 可选地安装 IDE 插件(详情见 DevOps 文档),以可视化方式编辑和调试你的流程。

文档链接

许可证

  • Apache‑2.0(参见 LICENSE)。

安全

  • 如发现任何漏洞,请通过 ByteDance 安全中心或 sec@bytedance.com 私下报告。

相关

  • 项目
  • 项目
  • 项目
  • 项目
  • 项目