ModelEngine-Group/app-platform
AppPlatform 是一个前沿的大模型应用工程,旨在通过集成的声明式编程和低代码配置工具,简化和优化大模型的训练与推理应用的开发过程。本工程为软件工程师和产品经理提供一个强大的、可扩展的环境,以支持从概念到部署的全流程 AI 应用开发。
해결하는 문제
AppPlatform은 개념 설계와 배포 사이의 간극을 좁히는 로우 코드 환경을 제공하여 AI 애플리케이션 개발을 간소화합니다. 소프트웨어 엔지니어와 제품 관리자가 방대한 기본 코드를 작성할 필요 없이 복잡한 AI 워크플로우를 구축할 수 있게 해주며, 여러 모델과 사용자 정의 로직을 통합하는 마찰을 줄여줍니다.
작동 방식
이 플랫폼은 Java 기반 백엔드와 React 기반 프론트엔드로 구성된 모듈식 아키텍처를 사용합니다:
- 백엔드: FIT 프레임워크와 Waterflow를 기반으로 구축되었으며, 플러그인 기반 시스템을 사용하여 AI 애플리케이션을 관리하고 컴포넌트 노드를 통해 기능을 확장합니다. 이를 통해 데이터와 프로세스 흐름을 유연하게 구성할 수 있습니다.
- 프론트엔드: Elsa 그래픽 엔진을 통해 시각적 오케스트레이션 인터페이스를 제공하여 사용자가 AI 애플리케이션 수명 주기(생성, 오케스트레이션, 디버깅 및 게시)를 설계할 수 있습니다. 또한 JSON Schema를 사용하여 AI 모델 서비스와 통합된 대화형 양식을 자동으로 렌더링하여 실시간 추론을 수행하는 "Smart Form" 모듈도 포함되어 있습니다.
- Store Template: AI 애플리케이션을 위한 중앙 집중식 스토리지 시스템으로, 이를 재사용 가능한 "도구"(예: RAG 파이프라인 또는 에이전트)로 취급하여 프로젝트 간에 공유하거나 다른 에이전트가 자동으로 예약하여 사용할 수 있습니다.
대상 독자
- 제품 관리자: 깊은 코딩 지식 없이 그래픽 인터페이스를 사용하여 AI 애플리케이션을 만들고 디버깅하려는 사람.
- 소프트웨어 엔지니어: Java 또는 Python에서 사용자 정의 연산자를 사용하여 AI 애플리케이션을 개발하고 배포할 수 있는 확장 가능하고 확장성 있는 환경이 필요한 사람.
주요 특징
- 로우 코드 시각적 인터페이스: AI 워크플로우 및 다중 모델 협업을 구축하기 위한 드래그 앤 드롭 오케스트레이션.
- 다국어 연산자 지원: 백엔드 아키텍처는 Java 및 Python에서의 연산자 개발을 지원합니다.
- 컴포넌트 기반 생태계: AI 애플리케이션은 함수, RAG 시스템 또는 에이전트로 정의될 수 있으며, 전역 Store에 재사용 가능한 도구로 저장될 수 있습니다.
- Smart Form 통합: JSON Schema를 통한 자동 양식 렌더링으로 사용자와 AI 모델 간의 원활한 상호 작용을 구현합니다.
관련
- 프로젝트
- 프로젝트
- 프로젝트
- 프로젝트