ModelEngine-Group/app-platform

AppPlatform 是一个前沿的大模型应用工程,旨在通过集成的声明式编程和低代码配置工具,简化和优化大模型的训练与推理应用的开发过程。本工程为软件工程师和产品经理提供一个强大的、可扩展的环境,以支持从概念到部署的全流程 AI 应用开发。

解決的問題

AppPlatform 提供了一個低程式碼環境,消除了概念設計與部署之間的落差,從而簡化了 AI 應用程式的開發。它讓軟體工程師和產品經理能夠建構複雜的 AI 工作流程,而無需編寫大量底層程式碼,降低了整合多個模型與自訂邏輯的摩擦。

運作方式

該平台採用模組化架構,包含基於 Java 的後端和基於 React 的前端:

  • 後端:建構於 FIT 框架和 Waterflow 之上,它使用外掛程式系統來管理 AI 應用程式,並透過元件節點擴充功能。這允許靈活地組織資料與流程。
  • 前端:具備由 Elsa 圖形引擎驅動的視覺化協調介面,讓使用者能夠設計 AI 應用程式生命週期(建立、協調、除錯與發佈)。它還包含一個「Smart Form」模組,該模組使用 JSON Schema 自動渲染與 AI 模型服務整合的互動式表單,以進行即時推論。
  • Store Template:一個用於 AI 應用程式的集中式儲存系統,允許將它們視為可重複使用的「工具」(如 RAG 管道或代理程式),這些工具可以跨專案共享,或由其他代理程式自動排程。

適用對象

  • 產品經理:希望使用圖形化介面建立和除錯 AI 應用程式,而無需具備深厚程式碼知識的人。
  • 軟體工程師:需要一個可擴充、可延伸的環境,以使用 Java 或 Python 中的自訂運算子來開發和部署 AI 應用程式的人。

亮點

  • 低程式碼視覺化介面:拖放式協調,用於建構 AI 工作流程和多模型協作。
  • 多語言運算子支援:後端架構支援使用 Java 和 Python 進行運算子開發。
  • 基於元件的生態系統:AI 應用程式可以定義為函式、RAG 系統或代理程式,並作為可重複使用的工具儲存於全域 Store 中。
  • Smart Form 整合:透過 JSON Schema 自動渲染表單,實現使用者與 AI 模型之間的無縫互動。

相關

  • 專案
  • 專案
  • 專案
  • 專案