landingbj/LinkMind

LinkMind is an enterprise-level composite multimodal large model middleware.

解决的问题

LinkMind 是一个企业级 AI 中间件层,旨在消除业务系统需要与多个 AI 提供商进行单独集成的需求。它为聊天、RAG 和多模态功能提供稳定、统一的接口,从而降低新模型接入和生产环境治理管理的摩擦。

工作原理

它作为一个中央枢纽,位于业务应用程序、私有知识库和 AI 模型提供商之间。它同时暴露原生 API 和 OpenAI 兼容 API,以处理文本、音频、图像和视频请求。该系统使用配置文件(lagi.yml)进行中央路由、故障转移和编排,并与各种向量存储集成以支持 RAG。它还支持“Token Grid”架构,允许将多个 LinkMind 节点链接成级联网络,在保持数据隔离的同时共享计算资源和领域能力。

适用对象

它专为需要生产就绪的 AI 基础设施的团队和企业而构建,用于管理多个 LLM 和多模态模型,通过 RAG 集成私有数据,并连接 OpenClaw 或 Hermes Agent 等现有代理运行时。

亮点

  • 统一多模态 API:用于聊天、OCR、ASR/TTS、图像/视频生成与理解以及文本转 SQL 的单一层。
  • 多模型编排:通过 best() 和 pass() 路由器实现中央路由和故障转移,避免针对特定提供商的代码重写。
  • 企业级 RAG:直接连接 Chroma、Milvus、Pinecone 和 Elasticsearch 等向量存储,并支持图样式增强。
  • 生产治理:包括 Medusa 缓存加速、令牌统计和集中式安全护栏。
  • 代理运行时同步:内置钩子,以便与 OpenClaw、Hermes Agent、DeerFlow 和 OpenHuman 无缝集成。
  • Token Grid:一种级联网络拓扑,其中节点既充当 AI 能力的消费者,也充当提供者。

相关

  • 项目
  • 项目
  • 项目
  • 项目
  • 项目