ModelEngine-Group/app-platform

AppPlatform 是一个前沿的大模型应用工程,旨在通过集成的声明式编程和低代码配置工具,简化和优化大模型的训练与推理应用的开发过程。本工程为软件工程师和产品经理提供一个强大的、可扩展的环境,以支持从概念到部署的全流程 AI 应用开发。

解决的问题

AppPlatform 提供了一个低代码环境,弥合了概念设计与部署之间的差距,从而简化了 AI 应用的开发。它允许软件工程师和产品经理构建复杂的 AI 工作流,而无需编写大量底层代码,减少了集成多个模型和自定义逻辑的阻力。

工作原理

该平台采用模块化架构,包含基于 Java 的后端和基于 React 的前端:

  • 后端:构建在 FIT 框架和 Waterflow 之上,它使用基于插件的系统来管理 AI 应用,并通过组件节点扩展功能。这允许灵活地组织数据和流程。
  • 前端:具有由 Elsa 图形引擎驱动的可视化编排界面,使用户能够设计 AI 应用生命周期(创建、编排、调试和发布)。它还包含一个“Smart Form”模块,该模块使用 JSON Schema 自动渲染与 AI 模型服务集成的交互式表单,以进行实时推理。
  • Store Template:用于 AI 应用的集中式存储系统,允许将它们视为可重用的“工具”(如 RAG 管道或智能体),这些工具可以跨项目共享或由其他智能体自动调度。

适用人群

  • 产品经理:希望使用图形界面创建和调试 AI 应用,而无需深厚编码知识的人。
  • 软件工程师:需要一个可扩展、可扩展的环境,以使用 Java 或 Python 中的自定义算子来开发和部署 AI 应用的人。

亮点

  • 低代码可视化界面:拖放式编排,用于构建 AI 工作流和多模型协作。
  • 多语言算子支持:后端架构支持使用 Java 和 Python 进行算子开发。
  • 基于组件的生态系统:AI 应用可以定义为函数、RAG 系统或智能体,并作为可重用工具存储在全局 Store 中。
  • Smart Form 集成:通过 JSON Schema 自动渲染表单,实现用户与 AI 模型之间的无缝交互。

相关

  • 项目
  • 项目
  • 项目
  • 项目