synapseorch-ai/synapse-ai

해결하는 문제

Synapse AI는 특정 프레임워크에 종속되지 않고 신뢰할 수 있으며 프로덕션 준비가 완료된 AI 워크플로우를 구축하는 방법을 제공합니다. 사용자가 에이전트, 도구 및 다양한 LLM이 제어된 시퀀스로 연결된 결정론적 파이프라인을 생성할 수 있도록 함으로써, AI 에이전트의 "환상 우회(Hallucinated detours)" 문제를 해결합니다.

작동 방식

이 플랫폼은 방향성 비순환 그래프(DAG) 접근 방식을 사용하여 AI 에이전트를 오케스트레이션합니다. 사용자는 특정 단계, 라우팅 및 병렬 처리를 정의하여 워크플로우가 설계된 경로를 따르도록 할 수 있습니다. 다양한 LLM 제공자(Ollama를 통한 로컬 및 클라우드 기반 모두)를 지원하며, Python 스크립트, REST API, 웹훅 및 Model Context Protocol (MCP) 서버를 통해 도구를 통합합니다. 수요가 많은 환경을 위해 Redis 작업 대기열과 독립적인 워커 플릿에 워크로드를 분산하는 "Scale Mode" 기능을 갖추고 있습니다.

대상

이 플랫폼은 AI 에이전트를 간단한 데모에서 확장 가능하고 출시된 제품으로 전환해야 하는 개발자와 팀, 특히 단일 워크플로우 내에서 휴먼 인 더 룹(Human-in-the-loop) 검토, 예약된 자동화 또는 다양한 LLM의 혼합이 필요한 경우를 위해 설계되었습니다.

주요 기능

• 멀티 모델 오케스트레이션: 단일 워크플로우의 다른 단계에 대해 다른 LLM을 사용하여 속도나 성능을 최적화합니다.
• 결정론적 실행: 워크플로우는 엄격한 DAG를 따르며 에이전트가 의도한 프로세스에서 벗어나는 것을 방지합니다.
• 확장 가능한 도구: Python 스크립트, API 및 MCP 서버를 에이전트가 호출할 수 있는 도구로 전환합니다.
• 휴먼 인 더 룹: 사람의 검토를 위해 워크플로우를 일시 중지하고 다시 시작할 때 재개할 수 있는 기능입니다.
• 분산 확장: 수백만 건의 요청을 처리하기 위해 Redis 및 워커 플릿을 갖춘 전용 확장 레이어입니다.
• AI 빌더: 자연어 설명에서 오케스트레이션 DAG를 생성할 수 있는 메타 에이전트입니다.